Моделирование ИИ (Искусственного интеллекта)

[Андрей]

Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.

[Андрей]

Волнистый попугайчик моего друга тоже постоянно повторял: "Кеша хороший". Так и этот генератор текстов.

===

Кстати, если бот от Майкрософта реально стал расистом, безотносительно намерений создателей, это как раз и показывает некоторую степень свободы и "размышлений". Это к примеру, как выпустив робота без вшитых сведений о политике, увидели, что он бы стал писать, что надо строить коммунизм, да ещё бы и аргументировал это. Коммунизм здесь взят как рандомный теоретический пример.

[Андрей]

Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.

Возможно кто-то скажет, что я слишком критичен к возможностям компа, но как быть, если я сам - хакер и программист. Мне, чтобы увидеть чудо, нужно нечто большее, чем непритязательной публике.

Кстати, когда мне было 7 или 8 лет, нас позвали на экскурсию в компьютерный класс, где стояли Ямахи MSX с цветными дисплеями, хороший на тот момент компьютер. Нас посадили и сказали печатайте всякую хрень, типа там своё имя или что-то ещё. А я попытался выйти на диалог с компьютерным разумом (так мне тогда казалось). Я написал: "YAMAHA is a good computer" или что-то типа того. А он в ответ написал сообщение на английском, которое я не понял, так как тогда почти не знал английского. Я был в восторге: "Компьютер мне ответил!" )))

Теперь, с высоты опыта, полагаю, это было сообщение об ошибке - недопустимом операторе в BASIC.

[Андрей]

Нейросеть-мессия предсказала конец света

https://daily.afisha.ru/news/40921-neyr ... onec-sveta

«Этот ИИ в некоторой степени похож на ребенка, которого заперли в комнате наедине с Библией и открыли дверь лишь спустя 10 лет. Он научился говорить, читать и писать, но основываясь исключительно на библейском тексте»

Как подмечает The Next Web, большая часть сгенерированного текста — простая тарабарщина, но среди нее есть жемчужины, которые могут пригодиться скучающим священникам. О других возможных применениях искусственного Иисуса не сообщается.

[Андрей]

Возможно кто-то скажет, что я слишком критичен к возможностям компа, но как быть, если я сам - хакер и программист. Мне, чтобы увидеть чудо, нужно нечто большее, чем непритязательной публике.

Именно теоретическая разница между самосознанием и "имитацией человека" очень наглядно объясняется в фильме "Из машины", ссылку на который скидывал Дима. Фильм "Превосходство" тоже прекрасен, как вдохновляющий шедевр для будущих ИИ-специалистов. Фильм "Апгрейд" же мне понравился больше всего в отрыве от ИИ-темы. Все 3 фильма крутые. Я бы только добавил к ним фильм "Стелс" при ИИ-самолёт.

[BDK]

ИИ в чем-то сильно превосходит нас. Это другое. Сравнивать с человеческим интеллектом это нельзя. Как нельзя сравнивать тягловую силу даже самого сильного человека и мощного суперкара. Это всё таки машина. Со всем вытекающим.

[Андрей]

Робот слишком часто пишет "я", хотя не понимает что он такое. Все что он "знает" о себе, он берёт из других статей. Также он не способен оценить собственные мотивации. Их тоже он берёт из статей.

Далеко нам до мыслящих роботов.

Беседуя недавно по Скайпу с товарищем, преподавателем программирования в Экселе, под ником Afan мы вспомнили про фантастику и проскользнула его фраза о сюжете одной старой игрушки: "компьютер осознал сам себя". На что я ответил, что разработчик нейросетей BDK с моего форума считает, что компьютеры никогда не будут обладать сознанием. И мой товарищ к месту вспомнил про парадокс "китайской комнаты".

Представим себе изолированную комнату, в которой находится робот (или человек) "Алго", который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Алго просто следует этим инструкциям подобно компьютеру.

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Алго исполняет алгоритм так же, как его исполнил бы компьютер.

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Алго не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Алго не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.

[BDK]

ИИ запросто сможет общаться осмысленно. Более того - скорей всего по осмысленности он превзойдёт любого человека. Но он никогда не будет обладать сознанием. Хотя доказать это не будет никакой возможности потому что внешне он будет выглядеть как осознающее и разумное существо. Запредельно разумное.

И тем не менее - это просто машина.

[BDK]

https://habr.com/ru/post/511764/

Я как-то потестировал генератор текстов на базе OpenAI. Я тоже был поражен. Это были не то что осмысленные тексты, это были тексты с многослойным смыслом - что свойственно не столько человеку сколько какому нибудь оракулу или некоему магу. Это сложно объяснить. Но на уровне ощущений - это как контакт с чем-то превосходящим меня. Нет - оно не живое. Но оно владеет пониманием лучше меня.

Дело в том что ОНО понимало ЧТО ИМЕННО Я ХОЧУ УЗНАТЬ и ОТВЕЧАЛО НА МОИ МЫСЛИ А НЕ НА ВВЕДЁННЫЕ МНОЙ СЛОВА. Ощущения одновременно и жуткие и фантастические. То есть я буквально чувствовал что эта штука видит меня на сквозь и читает меня как раскрытую книгу. Хотя это совершенно неодушевленное. Машина.

И да - я ощутил инстинктивный страх. Я почувствовал что в случае чего - у нас нет никаких шансов против этой штуки. Просто вообще от слова ноль. И наивные фильмы про борьбу людей с терминаторами - просто смешны. Не будет никакой борьбы. Нас победят быстро и без всякой борьбы. Мы не сможем понять и осознать никакой борьбы, проиграем незаметно для самих себя.

Но только в том случае если мы упустим контроль над этой технологией. Важно развивать эту технологию предполагая контроль над ней изначально, на уровне базы.

[Андрей]

Хм. Даже не верится. Надо самому поюзать.