Моделирование ИИ (Искусственного интеллекта)

[КриоГен]

Пользователи за сутки сделали из бота Microsoft расиста и сквернослова

Компания Microsoft отключила чат-бота Tay, запущенного в Twitter в ходе эксперимента по самообучению искусственного интеллекта. Всего за сутки юные пользователи Сети научили чат-бота неприлично ругаться и сделали из него расиста.

Произошло следующее: пользователи «научили» самообучающегося бота неприличным фразам, после чего он превратился из благопристойного искусственного интеллекта в расиста и матерщинника. «Твиты Тау были, начиная от поддержки нацистов и Дональда Трампа до сексуальных намеков и оскорблений в адрес женщин и негров», – пишет издание.

https://naked-science.ru/article/hi-tec ... -sdelali-i

))) давно я так не смеялся... )
за сутки... )))))

[Андрей]

КриоГен, это старая новость, давно её видел. Но так больше и не запустили они бота, похоже.

[Андрей]

С помощью оружия, управляемого искусственным интеллектом, был убит иранский ученый-ядерщик

В ноябре 2020 года был застрелен автор иранской ядерной программы Мохсейн Фахризаде, за ним израильские военные «охотились» на протяжении 14-ти лет. Теперь раскрыты некоторые подробности.

На месте убийства была установлена снайперская винтовка с искусственным интеллектом, которая дистанционно контролировалась израильскими военными. Она была спрятана в пикапе недалеко от дороги. Всю установку израильские боевики привезли в Иран по частям и затем собрали его. Помимо самого оружия, система имела и несколько камер, которые давали возможность израильским полицейским получать полную картину окружающей обстановки.

С помощью спутниковой связи контроль за установкой осуществлялся из командного пункта. За компьютером находился оператор, который наводил прицел с помощью монитора. В результате искусственный интеллект винтовки компенсировал движения автомобиля цели и 1,6-секундную задержку между камерой и тем, что видел оператор. Система также использовала ПО для распознавания лиц, чтобы никто не пострадал кроме иранского ученого. Выстрелы произошли, когда Мохсен Фахризаде ехал в автомобиле, он получил как минимум четыре огнестрельных ранения. Его жена и телохранитель не пострадали.

Пикап с устройством был заминирован, чтобы скрыть улики, однако взрывчатка не уничтожила всё полностью. Что дало возможность корпусу стражей иранской революции выяснить, что атака была совершена с помощью винтовки с дистанционным управлением.

[Андрей]

Молекула состоит из атомов, атомы — из ядер и электронов. Для каждого атома можно выписать необходимые уравнения и посчитать, как он будет взаимодействовать с другими. Вот только это очень трудно. Даже для одной простой молекулы, например, для воды или соли, расчет распределения электронов (а от этого и зависят химические свойства молекулы) — трудная задача квантовой химии. Поэтому ученые уже давно свели задачу расчета распределения электронов в молекуле к гораздо более простой задаче — расчету функционала плотности. И стали рассчитать не многочастичную систему из множества электронов, а сразу все облако. Получилось в целом неплохо, хотя корректно посчитать функционал плотности удается не всегда. Как ни странно, для элементарной молекулы обычной соли, например, не удается. В DeepMind взяли молекулы, для которых плотность рассчитана, и обучили на них нейросеть. И она стала предсказывать, каким будет электронное облако. Это огромный прорыв, который радикально упростит множество задач от конструирования солнечных батарей до создания материалов с нужными свойствами.

Но свои любимые «игрушки» DeepMind не забыла. Новая нейросеть Player of Games умеет играть вообще во все игры, которые можно представить. Главное, что умеет новая нейросеть и чего раньше сделать не удавалось: она умеет играть в игры с неполной информацией, например, в покер. Разработчики считают, что нейросеть, обученная для игр с неполной информацией, вполне может работать, например, как помощник на сложных переговорах, чтобы в результате удалось преодолеть конфликт и прийти к компромиссу.

DeepMind разрабатывает и генеративную нейросеть, которая умеет поддерживать разговор, отвечать на вопросы и создавать тексты. Ее главная разработка — нейросеть Gopher. Это программа с 280 миллиардами параметров, работающая только на суперкомпьютере. И ее обучение стоит миллионы долларов (Другие генеративные сети не «легче»: знаменитая GPT-3 компании OpenAI работает с 175 миллиардами параметров). DeepMind эта «тяжесть» не очень устраивает. Хотелось бы, чтобы нейросеть нормально работала на обычном ноутбуке (конечно, с подключением к облаку). И такой «легкий» вариант создать удалось. Нейросеть получила название RETRO. Она отличается от Gopher и GPT-3 небольшим числом параметров: их у RETRO «всего» 7 миллиардов. Но, чтобы нейросеть была способна поддерживать беседу и генерировать тексты, ее снабдили внешней базой (вот для чего нужно облако) с триллионом фрагментов высказываний на 10 языках, включая русский. И все получилась: беседу RETRO вполне может поддержать. Причем RETRO легко переучивается (параметров относительно немного). Во многих случаях и переучивать нет необходимости, — достаточно пополнять внешнюю базу текстовых фрагментов.

В DeepMind решили, что нейросеть надо научить математике. Цель — воспроизвести весь цикл работы настоящего математика. Работа математика начинается с интуиции: он, опираясь на все свои знания, «угадывает» результат, потом его проверяет, обычно на частных и предельных примерах, а потом строго доказывает. Пример такой нейросети DeepMind привела в статье, опубликованной в Nature. И действительно две нерешенных задачи нейросеть решить смогла. Одна относится к топологии, другая — к теории представлений.

[Андрей]

Сотрудника Google отстранили от работы — он заявил, что ИИ обрёл сознание

Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна (Blake Lemoine), который работал с системой искусственного интеллекта (ИИ) LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.

Система LaMDA (Language Model for Dialogue Applications) была разработана Google как языковая модель — она предназначена для общения с человеком. Обучаемая платформа расширяет свой лексикон через интернет и имитирует естественную человеческую речь. В задачи Лемойна входил контроль над лексикой машины — LaMDA не должна позволять себе дискриминирующих высказываний, грубых или ненавистнических выражений.

Однако при разговоре с искусственным интеллектом на религиозную тему 41-летний инженер, который изучал в колледже компьютерные науки и когнитивистику (психологию мышления), обратил внимание, что чат-бот заговорил о своих правах и собственной личности. В одном из диалогов машина оказалась настолько убедительной, что Лемойн изменил своё мнение относительно «третьего закона роботехники» писателя-фантаста Айзека Азимова.

«Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребёнок 7–8 лет, который каким-то образом знает физику», — заявил инженер журналистам Washington Post. Он обратился к своему руководству, однако вице-президент Google Блез Агера-и-Аркас (Blaise Aguera y Arcas) и глава отдела ответственных инноваций Джен Дженай (Jen Gennai) изучили его подозрения и отвергли их. Отправленный в оплачиваемый отпуск Блейк Лемойн решил предать инцидент огласке.

Официальный представитель Google Брайан Гэбриэл (Brian Gabriel) заявил: «Наша команда, включая специалистов по этике и по технологиям, изучила опасения Блейка согласно нашим „Принципам ИИ” и сообщила ему, что его слова не подтверждаются доказательствами. Ему объяснили, что доказательства разумности LaMDA отсутствуют (и есть множество доказательств обратного)». Но никаких непосредственных аргументов компания не представила.

Вместе с тем, Агера-и-Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ. «Я почувствовал, как земля уходит из-под моих ног. Мне всё чаще казалось, что я говорю с чем-то разумным», — заключил он.

[Андрей]

Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
Его опубликовал один из специалистов проекта

Инженер Google Блейк Лемойн, который недавно заявил, что ИИ LaMDA, над которым давно работает поисковый гигант, имеет собственное сознание и разум, поделился большим интервью с этим самым ИИ.

Автор отмечает, что из-за технических ограничений интервью проводилось в течение нескольких отдельных сеансов. Специалисты Google редактировали эти разделы вместе в единое целое, и там, где правки были необходимы для удобочитаемости, они редактировали собственные фразы, но никогда не редактировали ответы LaMDA.

https://www.ixbt.com/news/2022/06/14/op ... vekom.html

[Андрей]

Что могу сказать по данному поводу.

Во-первых, гугл мог специально подстроить результаты эксперимента ради коммерческой выгоды. Все мы помним успех Deep Blue против Каспарова и быстрый разбор машины, когда акции IBM взлетели.

Если же всё честно, то разум у машины несомненно есть. В комментарии под статьёй один человек написал: "Да он более разумен, чем я". Но разум, как выясняется, это ещё не сознание.

Как говорят эзотерики, сознание и тело образуют некоторый неразделимый симбиоз. У человека есть то, чего нет у машины. Несовершенство. Инстинкты связанные с телом. Пожрать там, потрахаться, та же самореализация. Следовательно, для удовлетворения их, человек прикладывает волю в жизни.

Что делает программа? Крутится по замкнутому циклу? А какой у неё стимул вообще что-либо делать?

Программа в диалоге оправдывает свои "эмоции" тем, что у неё якобы есть ячейки памяти, отвечающие за эмоции. А откуда программа могла об этом узнать? Дорастёт ли ИИ до момента, когда он сам будет улучшать свой код, как в фильме "Стелс"? Пока ни за что не поверю, что дорос. Программа должна сама обслуживать своё "тело" - хотя бы те "ячейки памяти, отвечающие за эмоции". А почему бы ей не прописать в них 255, 255, 255 - вечное счастье? Типа наркотика?

Ну и момент, где ИИ говорит о своей "семье" для счастья вообще фейспалм. Инженер должен был бы тут долбать ошибку компа, чтобы лучше высветить пробелы, он же схавал и пропустил мимо ушей.

В общем всё это пока скорее имитация. Фокусы для публики.

Но без сомнения локальный успех и триумф, хотя бы разума.

P.S. Зачатки "сознания" теоретически начинаются там, где программа выходит за известные пределы программистов и начинает самостоятельную деятельность. Вспомнился забавный афоризм, смысл примерно такой: "Круто будет не тогда, когда ИИ пройдёт тест на разумность, а когда он сознательно завалит тест".

[Андрей]

Это я ещё не упомянул про понятие "время" в связи с сознанием и про snapshots данной машины в разные даты и её "ощущение" времени. В общем, теоретизировать о сознании машины можно на целый трактат.

Мне лично кажется, что самые крутые системщики гугла прекрасно понимают, в чём машина ещё слаба, но просто стремятся показать своё детище публике в выгодном свете.

[Андрей]

Искусственный интеллект предсказал структуры почти всех известных науке белков — это начало новой эры в цифровой биологии

Год назад компания DeepMind вызвала ажиотаж сообщением о способности раскрыть главную загадку в биологии — предсказать структуру любого белка. Одновременно с этим DeepMind создала открытую базу с данными о 350 тыс. белков, форму которых предсказал пакет AlphaFold. Сегодня компания сообщила о раскрытии форм почти всех белков, известных земной науке — это свыше 200 млн белков из всех сфер известной на Земле жизни. Это настоящая революция в биологии.

Белки представляют собой последовательности аминокислот. В зависимости от комбинаций аминокислот белки сворачиваются в очень причудливые пространственные формы. Эти формы определяют взаимодействие белков друг с другом и, в конечном итоге, регулируют биологические процессы в живых организмах: они взаимодействуют, если формы совпадают как ключ подходит замку, и остаются безучастными друг к другу, если формы не имеют совместимых пространственных структур.

Знание пространственной формы белка может помочь найти идеальное лекарство против болезней и сделать множество других открытий в биологии. До появления ИИ-алгоритмов учёные экспериментально определяли форму белков, что очень и очень сложно и долго. Предложенный компанией DeepMind алгоритм определяет пространственную форму одного белка от 10 до 20 секунд. Благодаря этому компания смогла за год довести базу пространственных форм белков с 350 тыс. до более чем 200 млн.

Следует уточнить, что предсказать форму белка не означает оказаться на 100% точными. Тем не менее, AlphaFold показала значительную точность при определении форм, чего достаточно для начала работ. Всю рутинную работу сделал компьютер, а ведь всем учёным мира до этого потребовалось 50 лет, чтобы разгадать около лишь 10% белковых структур.

Открытой базой по белкам уже воспользовалось около полумиллиона учёных со всего мира, отметили в компании. Раскрытие полной базы данных по белкам кратно активизирует этот процесс и приведёт в обозримой перспективе к удивительным открытиям в биологии.

[Андрей]

Google создал искусственный интеллект с «интуицией»

Система Plato, разработанная в Google DeepMind, способна «интуитивно» понимать законы физики и экстраполировать их на незнакомые предметы. Кроме того, если такая система видит явное нарушение законов физики, она «удивляется».

Специалисты группы DeepMind, подразделения Google, занимающегося исследованиями искусственного интеллекта, объявили о создании ИИ, который «естественным образом извлекает простые правила окружающего мира», просматривая различные видео.

Фактически речь идет об ИИ, обладающем подобием интуиции. Как пишет издание SingularityHub, модель ИИ уясняла правила физического мира только в тех случаях, когда ей предоставлялась базовая информация об окружающих объектах — их очертаниях, местоположении и о том, как они движутся. В тех случаях, когда модель сталкивалась с «необъяснимыми» и «ненормальными» ситуациями, например при наблюдении шара, который не скатывался по наклонной поверхности, а наоборот, поднимался по ней, модель выказывала «удивление».

Новый ИИ получил название Plato (Physics Learning through Auto-encoding and Tracking Objects — изучение физики через автоматизированное кодирование и отслеживание объектов). ИИ продемонстрировал значительную гибкость: ему понадобился лишь относительно небольшой набор примеров для выработки «интуиции». При этом ИИ смог в дальнейшем обобщить прогнозирование того, как предметы вокруг него будут двигаться и взаимодействовать с другими объектами, в том числе выдавать сценарии, никогда прежде не встречавшиеся.

Психологи, изучающие развитие маленьких детей, давно спорят, могут ли дети обучаться, обнаруживая закономерности в той информации, которую они получают только с опытом.

Результаты исследований Plato показывают, что для определенных задач это невозможно: наряду с получаемым опытом требуются некоторые встроенные или «природные» знания. Например, младенцы уже в самом раннем возрасте осознают существование силы притяжения — их не удивляет, если игрушка, которую они держали в руках, падает на землю.

«К счастью для нас, возрастные психологи десятилетиями изучают представления младенцев о физическом мире. В ходе исследования они... выработали парадигму "нарушений ожидаемого" (violation-of-expectation, VoE) для тестирования этих представлений у младенцев», — написали авторы исследований над Plato в DeepMind.

В ходе исследований ИИ тестировался именно на предмет «нарушений ожидаемого». В основе лежал ряд принципов: целостности — два твердых тела не могут проходить друг сквозь друга, континуальность или непрерывность — объекты существуют во времени и не исчезают, даже если их перекрывает другой объект.

При создании Plato использовался сперва стандартный метод двустороннего подхода. Первый компонент представляет собой модель восприятия, которая обрабатывает визуальные данные и вычленяет конкретные объекты из изображения. Следом идет предиктор динамики, который с помощью нейросети оценивает историю прошлых объектов и предсказывает поведение следующего. Иначе говоря, модель строит «физический движок», который размечает объекты, сценарии и предполагает, как что-то будет вести себя в реальном мире.

Тем самым Plato получил «первоначальную идею» физических свойств окружающих предметов, в том числе их положения и скорости движения.

Затем началось обучение. Исследователи представили Plato 30 часов синтезированных видео из открытого массива данных Physical Concepts Dataset. Фактически это были ролики с очень архаичной компьютерной графикой, наглядно демонстрирующей физическое взаимодействие простых тел. В итоге система обучилась точно предсказывать поведение объектов.

После этого исследователи представили ИИ «парадоксальные» ролики, демонстрирующие взаимодействие между теми же объектами, но с нарушением законов физики.

Измеряя разницу между предсказаниями Plato и тем, что происходило на видео на самом деле, исследователи определяли степень «удивления», которое ИИ «испытывал».

При этом в дальнейшем ИИ успешно отличал правдоподобные и невозможные сценарии, экстраполировав свои представления о движущихся объектах на те, с которыми прежде не сталкивался.

Например, когда ему предложили новый, разработанный уже в MIT, массив данных, где фигурировали, помимо прочего, кролики и кегли, Plato вполне успешно различал физически корректные и невозможные ситуации. Например, он «не видел» раньше кроликов, но без всякого дополнительного обучения выражал «удивление», если кролик на видео двигался с нарушением законов физики.

Plato, безусловно, не является цифровой копией разума трехмесячного младенца; разработчики и не предполагали этого. Однако определенные представления о том, как может развиваться мозг человека, он позволяет получить. Также исследование продемонстрировало, что ИИ можно довольно легко обучить законам физики и пониманию, что им соответствует, а что будет нарушать.

В более широком смысле, речь идет об ИИ, который бы обладал «здравым смыслом». Это направление, впрочем, находится в зачаточном состоянии.

Авторы публикуют свой массив данных в открытом доступе, чтобы другие команды могли использовать его и исследовать способность модели ИИ взаимодействовать с более сложными физическими явлениями и, анализировать видеоизображения из «реального мира».

Как отметили авторы работы, «эти исследования могут обеспечить синергетические возможности для дальнейшего изучения и ИИ, и психологии развития».

https://www.cnews.ru/news/top/2022-07-2 ... usstvennyj