Моделирование ИИ (Искусственного интеллекта)

[BDK]

Короче я понял это так - повсюду будет ИИ от Цукерберга. Мы думали что восстание машин будет выглядеть как роботы убивающие людей. Всё будет прозаичней - за людей начнет думать один глобальный ИИ. И всё - нет нужды кого-то убивать. Мир контролирует тот кто за него думает. Большинство людей даже не заметят и не поймут что машины их давно победили.

Боюсь ли я этого ? Поздно уже бояться. Всё - точка невозврата пройдена. Теперь нужно понять как с этим жить.

[Андрей Карпишин]

Пользователь больше не нужен — новая ИИ-модель Anthropic сама управляет ПК

Прошлой весной Anthropic заявила о намерении создать «алгоритм нового поколения для самообучения ИИ», который сможет самостоятельно выполнять большинство офисных задач, что позволило бы автоматизировать значительную часть экономики. Сегодня компания выпустила версию 3.5 своей модели Claude Sonnet, которая может через API Computer Use взаимодействовать с любым десктопным приложением, имитировать нажатия клавиш, клики и жесты мыши, полностью эмулируя человека.

https://3dnews.ru/1112865/polzovatel-bo ... avlyaet-pk

Мы обучили Claude видеть, что происходит на экране, а затем использовать доступные программные инструменты для выполнения задач. Когда разработчик поручает Claude использовать часть компьютерного программного обеспечения и даёт ему необходимый доступ, Claude смотрит на скриншоты того, что видит пользователь, затем подсчитывает, на сколько пикселей по вертикали или горизонтали ему нужно переместить курсор, чтобы щёлкнуть в нужном месте.

Подобный инструмент, так называемый «агент ИИ», который может автоматизировать задачи на ПК, не является новой идеей. Термин агент ИИ пока остаётся нечётко определённым, но обычно под ним подразумевается ИИ, способный автоматизировать работу с программным обеспечением на ПК. Множество компаний сегодня предлагают подобные инструменты, начиная с Microsoft, Salesforce и OpenAI, и заканчивая новыми игроками, такими как Relay, Induced AI и Automat.

[BDK]

Ну я для себя тоже такое делаю. Только мне для этого не нужен сторонний ИИ, я сам обучаю свои нейросети под свои задачи. Мне всё таки важно полностью контролировать процесс. А чего там можно ожидать от сторонних нейросетей фиг знает. Понятное дело у меня нет таких мощностей чтобы обучать такие большие нейросети как у них, поэтому и мои подходы другие - я всё же делаю ставку не исключительно на нейросети а нейросети совместно с кодом написанным вручную. То есть это не совсем самообучающийся ИИ а гибрид самообучающегося и частично программируемого жестким кодом. Мне для моих задач самое то. Тем более что со всей очевидностью чистые нейросети всё же слабоваты, особенно учитывая какие ресурсы вбухиваются на их обучение. Зачастую несложный программный код написанный одним программистом оказывается эффективней тяжелой нейросети обученной на сотнях миллионов долларов. Всё таки интеллект это не только распознавание образов но и четкая логика. И именно в четкой логике нейросети слабы, особенно что касается очень длинных цепочек (миллионы шагов) логических выводов , и особенно рекурсивных закономерностей - где жесткие алгоритмы пока вне конкуренции. Ну а симбиоз жестких алгоритмов и нейросетей - это сильная штука. И нужны гораздо менее тяжеловесные нейросети для получения сильных результатов. Так что мне как индивидуальному разработчику с малыми ресурсами это самое то.

[Андрей Карпишин]

Ну это никак не раскрывает принципы. Технических подробностей нет - как устроено, как работает. Наверное пока это закрытая информация?

Появилась подробная статья на русском языке (перевод):
https://habr.com/ru/articles/856776/

[BDK]

Почитал. Идея ОЧЕНЬ интересная.

Но у меня возникли вот какие мысли. Данный способ является одной из возможных альтернатив классической многослойной нейросети. Я давно столкнулся с тем что классическая нейросеть не всегда наилучший выбор - зачастую какой нибудь специальный алгоритм оказывается эффективней в той или иной задаче.

Но алгоритмов может быть бесконечное многообразие. Скорей всего и данный подход если им основательно заняться покажет как свои сильные стороны так и ограничения в тех или иных случаях. Вопрос - стоит ли направить всё свое время и ресурсы на то чтобы исследовать этот подход? Оправданно ли тратить на исследование каждой возможной альтернативы нейросетям много сил и времени? Ведь альтренатив возможна бесконечность.
=====

Размышляя над этим я пришел к другому подходу - на самом деле я считаю нет особого смысла в том чтобы искать наилучший метод - будь то классические нейросети или какой-то из альтренативных вариантов. Больше смысла в том чтобы воспользоваться любым из этих методов чтобы построить систему которая использует любого рода внешние инструменты в помощь себе. То есть можно обучить нейросеть которая допустим будет писать алгоритмы на низкоуровневом языке программирования и использовать их в помощь себе.
=====

Человеческий интеллект это ведь тоже не только нейросети. Наш интеллект силен потому что использует сторонние инструменты в помощь себе. Например при всей мощи наших нейросетей в голове мы имеем определенные трудности с тем чтобы решать задачи исключительно в уме. Вместо этого мы с древних времен используем такой инструмент как доску и мел - и это резко повышает наши возможности. То есть сила человеческого интеллекта в том что он испольует стронние инструменты в помощь себе. Эти сторонние инструменты обладают специфическими свойствами которые закрывают слабые стороны наших собственных нейросетей.

[BDK]

Но в целом - стоит попробовать. Если есть алгоритм обучения. Я еще не дочитал до конца. Они предлагают какой-то алгоритм обучения такой штуки? Было бы интересно сравнить с обычной нейросетью в разных тестах.

[BDK]

И все таки взвесив все за и против я прихожу к тому что нет особого смысла тратить время на эксперименты с альтернативными конструкциями нейроподобных сетей. Тех которые есть уже достаточно и в принципе можно строить любые системы на них.

Тут вопрос такого рода - есть ли смысл экспериментировать с альтернативными архитектурами компьютеров или стоит уже остановиться на том который у нас есть и заняться разработкой ПО. Ведь на самом деле не так уж важно какая архитектура компа, важнее ПО. Точно так же обстоит и с ИИ - не так уж важно какую обучаемую конструкцию взять за базу, важнее что будет построено поверх этой базы.

[BDK]

Чем обусловлен успех человеческого интеллекта? Стоит проанализировать историю. И на самом деле становится видно что на самом деле самым значимым достижением человеческого интеллекта, которое и привело к взрывному развитию цивилизации несколько тысяч лет назад стала единственная вещь - открытие счета. Потом пошла арифметика и так далее. Но ключевым стало именно осознание что мир состоит из объектов которые можно пересчитывать. То есть объекты не раздваиваются и при сложении сумма точно равна их количеству - это был первый фундаментальный закон природы подмеченный людьми и именно на нем основан весь последующий интеллектуальный прогресс человечества.
Итак к чему я и это.
Всего одно правило, подмеченное в окружающем мире, стало настолько значимым.
Суть человеческого интеллекта в том что он пользуется правилами открытыми прошлыми поколениями. Эти правила мы называем знаниями.
Не все знания одинаково полезны. Есть откровенный бред который вводит в заблуждение. Но есть полезные правила которые имеют большую пользу.
Что такое по сути правила? Это алгоритмы. Методы. Пошаговые инструкции как выполнять те или иные преобразования над данными чтобы получить в итоге тот или иной результат.
Эти методы можно тоже применять впопад и невпопад. Но в целом наличие накопленного банка полезных знаний сильно повышает вероятность продвижения и успеха.
По сути такие методы, алгоритмы, правила, можно рассматривать как некие сущности которые эволюционируют и проходят отсев и естественный отбор. Формируется определенная экосистема из правил, методов, алгоритмов. Очень подобно многообразию видов в биологической природе.
По сути это эволюция чего-то независимо от нас. Мы здесь лишь почва на которой формируется эта форма жизни - это даже не наша эволюция. Это эволюция знаний на почве нашего ума но это даже не совсем эволюция нашего ума.
Мы по сути находимся в симбиозе с этой формой жизни, но на самом деле у неё свои цели в у нас свои, и симбиоз имеет место быть лишь в некой области пересечения, но цели не совпадают полностью.
Это нужно понимать и с этим нужно быть осторожными.
Но я и не об этом.
Нейросети. Это один из алгоритмов. Его сформировала эволюция сотни миллионов лет назад. Очевидно он тоже очень ценен.
Однако - с ним сотни миллионов лет была определенная стагнация и только открытие счета дала взрывной очередной прогресс несколько тысяч лет назад.
Что из этого наблюдения мы можем извлечь?
Во первых - что стихийная эволюция штука медленная. Во вторых что всего одно удачное правило может дать мощный прогресс. А не сильно удачное долго держать ситуацию без существенных прогрессов.
Итак о чем уже я.
Об этом я подумаю напишу дальше.

=====
Что касается всех этим модных нейросетей. Что с ними не так? На мой взгляд - слишком дорого. Ну сами посудите - сотни миллионов долларов нужны на функционирование системы которая едва ли дотягивает по разумности до одной единицы человека. И хотя они утверждают что уже скоро их система превзойдет по разумности не то что одного человека но и всех людей вместе взятых - што та я сильно сомневаюсь.
Мой подход - всё же это не должна быть только нейросеть которая учится полностью сама - это дорого и маловато выхлопа на выходе. Должен быть гибрид где обучаемость скомбинирована с возможностью вписывать человеком вручную алгоритмы в структуру системы ИИ. Потому что зачастую простой алгоритм оказывается эффективней дорогой нейросети. Иногда нейросеть эффективней. Короче нужно взять сильные стороны от того и другого и скомбинировать вместе.
Это позволяет делать сверхдешевые и эффективные системы.
Во всяком случае для себя по дому гораздо эффективней показало просто описывать объекты и законы взаимодействия между ними вручную - система получается гораздо умней сторонних ассистентов на нейросетях.

Итак - почему умен человек? Помести его в лес и он научится жить с волками - получится маугли. При всём его большом и сложном человческом мозге - он окажется необратимо ограничен уровнем животного.
Мы умны потому что пользуемся знаниями доставшимися в наследство от предков.
Эти знания - зачастую простые правила. Но чтобы найти эти правила понадобилась эволюция в миллоны лет.
То есть хотя эти правила просты но найти их было совсем не просто. И они имеют высокую ценность и огромную эффективность.
Скорей всего это потому что такие правила описывают какие-то очень глубокие закономерности самой реальности. И да - реальность при всей ее сложности вся пронизана паутинкой таких четких и очень простых закономерностей. Эти закономерности очень просты но при этом выполняются с высокой точностью. Само свойство реальности иметь в себе такие закономерности выглядит непостижимой мистикой и тем не менее - реальность таким свойством обладает.
Знание таких закономерностей дает настолько мощное конкурентое преимущество что не пользоваться этим просто глупо.
Нейросети слабы в выявлении таких правил.
Нейросети хороши в выявлении сложных но не исключительно точных закономерностей.
Это хорошо видно по высококачественным фотореалистичным изображениям генерируемым современными нейросетями.
И тем не менее - у этих нейросетей есть большие трудности с тем чтобы изображать на этих картинках правильное количество пальцев на руках людей.
Нейросети очень слабы в арифметике.
В то же время в арифметике очень сильны простейшие компьютерные алгоритмы.
Простые рекурсивные компьютерные алгоритмы способны на вещи недостижимые для нейросетей. И это очень важные на практике вещи отказываться от которых было бы очень глупо.
Так что не нейросетями едиными.

[BDK]

Я рассматриваю знания как внешний инструмент. Знания - это технические структуры реализованные в чём-то внешнем по отношению к нам - например они могут быть нарисованы в виде схем и чертежей на бумаге, или записанными в виде формул, или - быть компьютерной программой выполняющейся на компьютере. Общим во всем этом является то что это системы реализованные не в мозгу человека а во внешних предметах сделанных из окружающей материи. Человек может использовать эти вещи в помощь себе. Это инструменты.
Инструменты можно накапливать и хранить. Но общим является то что нет жесткой структуры как содержать эти инструменты - каждый инструмент является отдельной вещью и эти вещи могут быть разбросаны как угодно или могут быть упорядочены каким либо образом но жесткого правила нет - наш ум организует работу с инструментами как сам посчитает нужным и в общем и целом это работа просто с внешними предметами
Мы можем упорядочить инструменты а потом окажется что такой порядок не слишком удобен и мы можем расположить инструменты по другому - то есть в отличие от нашего собственного мозга наш инструментарий не является жестко организованным - это просто куча вещей которые можно перестраивать и переорганизовывать как угодно.
Более того - оказывается что само это свойство внешних вещей быть переорганизованными как угодно оказывается очень ценным и мы создаем инструменты для работы с неорганизованными кучами вещей.
Кучи вещей можно накапливать, хранить, делиться ими с другими.
Мы создаём банки, хранилища инструментов. А сами инструменты измеряем количественно как ресурс. Как литры топлива или килограммы руды.
Короче.
Сильный ИИ - это не может быть жестко структурированная нейросеть. Это должна быть структура которая оперирует знаниями в частности и инструментами вообще как внешним по отношению к своей конструкции ресурсом.
Собственно так и работают все эти новомодные нейросети . Но.
Они ориентированы на работу либо с текстом как с внешним ресурсом, либо с изображениями. Но мне кажется разумней это сделать как некий агент работающий с внешним миром вообще. Не с каким-то конкретным типом данных.
Они делают это как ориентированное на обработку последовательностей. Но окружающий мир это не последовательность. Это скорей пространство.
Таким образом разумней делать такого агента как ориентированного на работу в пространстве
И не просто пространство которое можно наблюдать а пространство которое можно модифицировать - создавая в нем инструменты.
То есть сильный ИИ - это такой ИИ который организует экосистему инструментов вокруг себя, которые отчасти работают автономно и взаимодейсвуют между собой по своим правилам а отчасти являются управляемыми чтобы наш агент мог использовать это как инструменты.
То есть конечная система ИИ выстроится как такая вот экосистема инструментов. А первоначальный ИИ станет лишь ядром, или зародышем из которого выстроится такая экосистема.

И эту экосистему редактировать должен так же человек а не только сама система ИИ.

[BDK]

Более того - я считаю что агенту будет сложно создать сколь нибудь эффективную экосистему с нуля. Это могло бы быть интересно как эксперимент, но если говорить о практическом применении - мне проще написать какие-то инструменты вручную чем ждать пока их трудно и мучительно найдет агент.
Скорей всего первоначальную экосистему проще мне организовать вручную а затем уже подключить агента чтобы он в этом освоился и научился работать с этой экосистемой тоже.
И дальнейшая эволюция этой экосистемы будет как совместная работа человека и агента ИИ.
Короче .
Эта экосистема должна быть понятна мне - чтобы я мог ее редактировать.
А значит нужно выбрать формат, такой чтобы с ним мог работать человек а не только агент ИИ.
И это не текст.