Что такое ИИ + коммунизм (из темы)

[BDK]

Ну я имею ввиду что после отладки багов уже быть не должно иначе это некачественная работа. Но профессионалы уже вырабатывают с опытом определенную стратегию программирования которая позволяет минимизировать количество багов даже изначально и потом это требует минимума отладки. Я очень много сил и времени потратил пока пришел к определенным правилам программирования чтобы получать надежность сложных программ, потому что даже одна ошибка может убить пригодность программы к использованию. Поэтому борьба с ошибками это наверное самая важная тема для программиста. И да - отладка - это зачастую больше 90% времени всей разработки - это настоящий бич разработчиков. Поэтому конечно с годами опыта вырабатываешь приемы и подходы позволяющие минимизировать эти ужасные потери времени. Тут даже не просто приемы и стратегия, я выработал для себя целую теорию как писать сложные программы и чтобы при этом время разработки и отладки не превращалось в бесконечность.

Особенно если учитывать программирование нейронных сетей.

А в чем проблема с нейронными сетями? На мой взгляд нейронные сети это очень просто. Даже проще чем обычное программирование. Или вы в том плане что результаты их работы бывают трудно прогнозируемыми? Ну на самом деле тоже не так всё плохо. Да действительно нейронные сети не дают гарантированно точного результата - они имеют вероятностную характеристику. Но оценить эти вероятности можно и всё вполне контролируемо используется. Ну это конечно большая тема чтобы в двух словах.

[BDK]

Я все же склонен считать что ИИ - вещь абсолютно контролируемая и полностью понятная. Сейчас много ходит разговоров что вот мол ИИ становится уже таким что никто не может понять как он работает. Ну доля правды в этом есть - когда шахматная программа делает какой либо ход то никто не может сказать как именно она нашла этот ход. И тем не менее алгоритмы которые работают в программе - полностью понятны. И в целом я считаю что ИИ не может выйти из под контроля разработчика. Но конечно ИИ может быть опасен если его намеренно использует кто либо в злых целях - те же террористы например.

[Михаил Киселев]

И да - отладка - это зачастую больше 90% времени всей разработки - это настоящий бич разработчиков.

Это точно, на создание кода игры Шахматный бой https://yadi.sk/d/8F6d9mD_3A954s у меня ушли дни, на доведение до ума и выявление всех глюков годы.
Да что я, не знаю, застали ли вы Windows 95 и 98, но я хорошо помню большущее количество глюков, даже уже в их коммерческих версиях, не говоря уже о бетаверсиях. А ведь это лидер программирования.
Создание искусственного интеллекта - вещь новая, без глюков и каких либо побочных эффектов здесь не обойдется точно.

[Михаил Киселев]

На мой взгляд нейронные сети это очень просто. Даже проще чем обычное программирование.

А с кого копировать эти нейронные сети, если тупо скопировать с хомо сапиенса, то получится ИИ с 3-мя главными целями - жрать, размножаться и доминировать - согласитесь несколько пугающий ИИ.

[BDK]

Ты занимался нейронными сетями? Там не копируется. Там по другому делается - задаются цели и нейронная сеть тренируется под эти цели. То есть в итоге получается нейронная сеть которая наилучшим образом достигает поставленной цели. Таким образом поставленные цели целиком и полностью определяют поведение нейронной сети и отклониться от них она не в состоянии. Ни взбунтоваться ни проявить какую-то самостоятельность и отсебятину - только строго по заданной цели.

Но конечно можно поставить и очень широкую цель - тогда трудно предсказать какие средства она изберет для достижения цели. Но если сеть слабая то она скорей всего просто не сможет найти средств. Обучить такую сеть которая бы действовала слишком самостоятельно при слишком широкой и размытой цели - это само по себе сложная задача и она просто будет безуспешной - обычно нейронные сети обучают под очень-очень конкретные и простые цели. Короче говоря возможностей для того чтобы взбунтоваться у нейронных сетей очень мало. Это сугубо контролируемая вещь и простая как палка - на чудеса она просто не способна. Ну во всяком случае при имеющемся количестве вычислительных ресурсов. Конечно если для тренировки нейронной сети запрячь все суперкомпьютеры гугла и потратить на этот процесс много-много лет - то в итоге может получиться сеть которая как-то где-то уже будет приближаться к каким-то проявлениям сложного поведения и самостоятельности. Но так чтобы это случилось вдруг и случайно без серьезных затрат и усилий - это невозможно.

На самом деле даже суперкомпьютеры что-то сколь нибудь понастоящему сложное найдут только за время сравнимое с жизнью вселенной. Так что можно не опасаться - скайнет сам собой случайно не возникнет. Обычно системы со сложным поведением конструируются человеком. А нейронные сети там используются только как небольшие вставки с сугубо конкретными функциями. Без высококвалифицированного человеческого труда программа со сложным поведением возникнуть не сможет. Сам по себе самостоятельный ИИ как чёрт из табакерки выскочить не может.

[BDK]

Да что я, не знаю, застали ли вы Windows 95 и 98, но я хорошо помню большущее количество глюков, даже уже в их коммерческих версиях, не говоря уже о бетаверсиях. А ведь это лидер программирования.
Создание искусственного интеллекта - вещь новая, без глюков и каких либо побочных эффектов здесь не обойдется точно.

Я конечно же всё это проходил и конечно же не понаслышке знаком с тяжким трудом программиста и бесконечной отладкой программ. Но именно этот тяжкий многолетний труд и привел к тому что постепенно у меня сформировался определенный опыт и определенное понимание проблемы и определенное обобщение и структурирование задачи, и сложилась довольно стройная и простая теория при помощи которой я теперь программирую намного эффективней чем когда-то, более системно и упорядоченно, поэтому сейчас я могу говорить что для меня является реальным требование к программе чтобы она была сложной и без ошибок - я могу его соблюсти. Хотя конечно внимательность нужно сохранять всегда потому что ошибки могут закрасться не смотря на все хорошие теории и системы.

На моем опыте - ошибки обычно приводят к ухудшению характеристик программы. Еще ни разу я не видел чтобы ошибка привела к случайному зарождению разума в программе - скорей наоборот она убивала даже те крохи разума в программе которые я туда пытался внедрить трудом и потом. То есть ошибка очень маловероятно может привести к повышению уровня программы - с вероятностью 99.9... 9% к понижению.

Хотя конечно эволюция основана на тех 0.0...1% . Но это очень долго - нужно миллионы лет "ператрахивать" и "ператрахивать" чтобы "родилось что-то с человеческим лицом" . Внезапно и на малых вычислительных ресурсах это не возникнет.
=====

Насчет сегодняшнего хайпа вокруг ИИ я скажу так - успехи конечно же воодушевляют и создают энтузиазм по поводу того что вот вот мы создадим искусственный разум. Но это всё эмоции. Проза реальности заключается в том что мы просто создадим новый уровень автоматизации, без сомнения продвинутый и крутой - но до искусственного разума нам всё еще как до луны пешком.

Побочные эффекты и глюки в программах ИИ будут приводить лишь к тому что будут отдалять эту цель еще дальше. Они не могут случайно её приблизить.

[Андрей]

Ветку про ИИ надо аккуратно отделить.

[BDK]

Про нейронные сети я скажу так - это имитация простейших механизмов работы мозга - рефлексы. Это еще не интеллект. Да конечно рефлексы много значат в работе интеллекта. Когда мы играем в шахматы мы не просто перебираем тупо миллионы и миллионы ходов. Мы реагируем на определенные элементы шахматной позиции - это происходит неосознанно и рефлекторно. Чем опытней шахматист тем больше у него накапливается таких рефлекторных реакций на те или иные возникающие на доске ситуации - это работает мгновенно и на бессознательном уровне. Поэтому человек и играл до недавней поры сильней компьютера. Сейчас научились имитировать эту рефлекторную функцию при помощи нейронных сетей - и теперь компьютер обыгрывает человека в любую известную игру. Но интеллект ли это? Разум ли это? Я бы так не говорил.

Волк - очень хитрое животное и часто обводит охотника вокруг пальца. Волки способны просчитывать ситуацию на больше ходов вперед чем человек. Однако волк - животное и говорить о том что он разумней человека - это вряд ли. Хитрость это всё таки еще не интеллект.
=====

Конечно - робот-солдат будет в бою эффективней человека. Я думаю это сделают. И сказка о Терминаторе вполне может стать былью, и думаю станет. Но это не значит что искусственный интеллект может превзойти человека. Робот-солдат да - он возможен. Но робот-ученый - вряд ли. Я имею ввиду такой который смог бы повторить достижения Ньютона или Эйнштейна. То есть для человека всегда останется работа, машины заменят его только на нижних уровнях а верхние всё равно останутся человеку. И машины не получат самостоятельной воли - это всегда будут лишь исполнители воли человека.

[Михаил Киселев]

--- И машины не получат самостоятельной воли - это всегда будут лишь исполнители воли человека.---
Ага, если только какой-нибудь обидевшийся на мир Талантище не удосужится сделать ИИ с самостоятельной волей. Думаю, со временем, так наверняка и произойдёт.

[Михаил Киселев]

И опять же интересно, возможен ли ИИ в принципе, если он не обладает свободой воли и не имеет целей - жрать, размножаться и доминировать