Я зарегистрировал кучу соцсетей и краудфандингов, и по такому поводу мне необходимо регулярно сцеживать свои мысли в тексты что бы поддерживать контентом все площадки.

Сегодня я хочу рассказать про нейросеть. Вернее даже статистический движок.

Я разрабатывал это изначально в качестве абстрактной модели того как по моему мнению функционирует человеческий мозг с точки зрения работы над информацией. Все абстракции подразумевают оптимизированные формулы обработки информации нейронами головного мозга. Эта модель подразумевает способность мыслить, она не просто может, она фактически наделена саморефлексией и личным опытом, у неё есть развитая коммуникация с другими узлами и история взаимодействия с ними, и она непрерывно связывает разнообразные контексты и умеет брать произвольные контексты, то есть например она может построить ассоциативный мост между любыми словами которые ей переданы. Модель экспериментальная по смыслу и по духу, и сейчас лежит в разобранном состоянии и ждёт когда я к ней вернусь.

Он состоит из нескольких базовых классов.

Класс Нейрон. Нейрон это базовая нода. Нейрон содержит в себе ссылки на фрагменты, на другие нейроны, на синапсы, на пакеты, и каждый нейрон обладает собственной обученностью за счёт собственного внутреннего контента.

Нейрон создаётся когда пользователь открывает вебстраницу. Весь её контент отправляется в виде текста на вход нейросети и она создаёт локальную карту обученности.

У каждого нейрона есть свой персональный синапс, на который он может отправлять пакеты и из которого он получает пакеты.

Нейрон в своей базовой конфигурации делает всего три вещи - принимает пакеты из синапса в зависимости от того насколько пакет по ключевым словам пересекается с собственной семантической картой нейрона (его "сообщением", или точнее семантическим пересечением между сигнатурой пакета и сигнатурой самого нейрона). Он может обработать пакет, т.е если пакет принят нейроном то он может обратиться к своей базе связанных с ним нейронов, и запросить оттуда обработку пакета, каждый нейрон-адресат обрабатывает пакет и возвращает нейрону json с коллекцией ответных текстов. В свою очередь каждый нейрон-адресат может запросить в свою локальную базу связанности с другими нейронами, подгрузить оттуда данные и ответить на входящий пакет. Если ответная реакция на пакет отрицательная, то его содержимое индексируется в отрицательный вектор, то есть вектор определяющий то, чем нейрон не является. Этот вектор обладает сравнимой длиной с вектором принадлежности, и накапливает обученность на основе фальсифицированных утверждений (т.е утверждений априори неверных). После того как пакет обработан к нему добавляются в вектор все нейроответы и содержимое конкретных фрагментов как либо релевантных запросу.

Синапс - это транспортная система для пакетов, пакет сначала кладётся на синапс адресата, после чего синапс получает команду активировать нейрон, нейрон вбирает в себя все пакеты синапса и реагирует на каждый согласно своему протоколу, после чего над каждым пакетом совершает либо операцию передачи далее, либо операцию передачи обратно, когда нейрон возвращает обработанные пакеты в синапс то он запускает у него функцию срабатывания, которая заставляет уже синапс передать пакеты на внутреннюю карту других синапсов, которые находятся в разных компьютерных системах. Происходит акт передачи пакетов, но сначала синапс забирает из связанных с ним синапсов их пакеты релевантные его сигнатуре.

Пакет - это контейнер данных, он содержит адрес предыдущего по цепочке узла, шифрованную строчку которую можно открыть только закрытым ключом адресата, и публичный хэш по которому он таргетится в системе. Пакет движется по сети и обогащается, у него есть флаг transit, returning, static <- есть "время жизни", которое убывает по мере накопления ответов, как только время жизни иссякает пакет помечается как returning до тех пор пока не достигнет своего источника запроса и не вернёт ему данные, там он помечается в базе как static и помещается в новый нейрон, который связывается с теми нейронами, которые участвовали в первичном обмене данными.

Слово - это контейнер-вектор, состоит из собственного ID, и вектора word1.rating[word2.id] = context persistance. проще говоря всегда когда слова находятся в одном контексте, у них увеличивается совместный рейтинг, таким образом система обучается и у каждого слова есть длиннющая цепочка связей с другими словами. Благодаря тому что у каждого нейрона своя обученность, то суммарный контекст из активных нейронов образует уникальную нейрокарту под каждый уникальный входящий запрос.

Фрагмент - это какой то кусочек текста взятый в качестве токена - предложение, base64 shard, текст в скобках, высказывание, абзац, страница, глава - всё это разновидности фрагментов, каждый из которых обладает собственной картой обученности относительно контейнера-нейрона к которому фрагмент принадлежит. Эта карта позволяет связывать фрагменты из разных нейронов по принципу сходства и близости сигнатур. Фрагменты являются базовой единицей информации передаваемой в пакете. Фрагментом может служить html код, эссеншл, ссылка на вебстраницу, данные о файле, произвольный текст любого объёма.

Последовательность - это особый объект, суть которого в том что он разбивает последовательность идущих друг за другом слов в качестве отдельных векторов, и высчитывает между ними тренды, состоит из пула взятых единиц контента - нейронов, фрагментов, слов, синапсов и любых объектов, и в той последовательности в которой они даны он проводит векторный анализ и предиктивную функцию для каждого поля вектора, формируя на выходе новый вектор, относительно которого ищутся фрагменты, нейроны, слова, синапсы или пакеты, и они уже возвращаются в качестве ответа. Фактически это механизм компьютерного внимания и генерации.

На базе этих абстракций образуется сетевая архитектура - гиперсвязанных граф знаний, образованный из контента который потребляют пользователи. Он непрерывно обучается на всех вебстраницах, на всех текстах, на всех книгах, на всей музыке, на всех файлах, всё что вы ему даёте он пытается разбирать и обучаться на этом.

Так же к системе прилагается ряд сетевых протоколов, которые обеспечивают p2p транзит данных между множествами узлов.

Нейроны могут выполнять базовые логические операции, могут менять своё состояние, уведомляя систему об активности, у них есть специальный контрольный вектор который как ключ задаёт определённый характер экспрессий, сам по себе один нейрон весит от 1 до 20МБ, и каждый нейрон является полностью самостоятельной абстракцией. Он эволюционирует по мере запросов к нему и обучается в зависимости от обратной связи получаемой от других нейронов на базе тех пакетов что он туда присылает. Для каждого нейрона в своей связанности есть нейрокарта взаимодействия с ним - тоже положительный и отрицательный вектор - положительный за счёт того какие данные были отправлены и приняты с высоким одобрением, а какие пакеты были отвергнуты.

И уже поверх этого ставится Языковая модель которая преобразует сначала мои вектора в word2vec, а потом обучает на них локальную ЛЛМ.

Этот алгоритм лежит в основе предиктивной модели всего комплекса модулей Wisor. Он буквально обучен на той информации которая составляла последовательности контекстов переходящих состояний его внутреннего пула обработки. Каждый раз когда он подключает новые нейроны в активности, он индексирует это и собирает снапшоты своего собственного контекста для секвенсора.

Однажды я более подробно изложу этот концепт в документации. Этот проект когда будет готов будет опенсорсным и базовое ядро будет весить 15-20 мегабайт. Запустится даже на умном градуснике.

Благодарю за то что читаете.