0 просмотров
Рейтинг статьи
1 звезда2 звезды3 звезды4 звезды5 звезд
Загрузка...

Думать самим — или разумом ИИ?

О будущем искусственного интеллекта. По поводу выступления Митио Каку.

Поделиться:

Митио Каку — американский физик и всемирно известный футуролог. Я всегда с воодушевлением и интеллектуальной радостью читал его книги: «Физика невозможного»,»Параллельные миры», «Будущее физики», «Будущее разума» и др.. Именно поэтому меня удивило его выступление на недавнем Петербургском международном экономическом форуме по теме: «Цифровое будущее: Стоит ли нам бояться роботов?» (Digital Future: Should We Fear Robots?»). В русскоязычной версии: «Об искусственном интеллекте, роботах и способах их применения».[1]

1. Робот с тараканьим разумом.

Через всё выступление М. Каку проходит лейтмотив: искусственный интеллект — это роботы. Такова презумпция всех его утверждений: искусственный разум заключен в отдельном техническом организме, как мозг — в голове отдельного индивида. «У роботов и искусственного интеллекта есть три ограничения». Уже в этой фразе между роботами и ИИ поставлен знак равенства. И дальше, как о высшем достижении ИИ, Каку рассказывает об одном из умнейших роботов в мире, Asimo, созданном в Японии, — и с иронией отмечает, что пока что у него разум не более тараканьего.

По мнению Каку, лишь к концу века роботы могут достигнуть уровня интеллекта, сравнимого с обезьяньим. Но реально опасными они станут лишь в 22 в., когда смогут вынимать из своего мозга чипы, запрещающие им убийство людей.

Странные рассуждения! От такого представления о будущем веет наивным и унылым антропоморфизмом. Мы ведь знаем, что разум человечества не есть простое слагаемое индивидуальных разумов, — он социальный, сетевой. В этом нельзя не согласиться с К. Марксом: «. сущность человека не есть абстракт, присущий отдельному индивиду. В своей действительности она есть совокупность всех общественных отношений».[2]

Именно электронная сеть наглядно позволяет обнаружить новое качество разума как коммуникативно-информационной силы, которая обладает собственными формами воплощения и не заключена в голове отдельного человека. Тем более странно представлять искусственный разум в виде отдельной машины — шагающего, танцующего или играющего в футбол робота. Очевидно, что ИИ — это особая ментальная сверхструктура, которую мы не можем локализовать как отдельный механизм, как не можем локализовать виртуальное пространство. ИИ действует как совокупность программ и алгоритмов, способных к самообучению и саморепродукции на все более высоких уровнях производства и переработки информации. Поэтому рассуждать об уровне развития ИИ на примере отдельно взятого робота, даже самого продвинутого, сравнивая его с уровнем развития мозга у отдельного индивида или особи, будь то человек или насекомое, — это анахронизм, словно бы перенесенный из научной фантастики 1960-х-70-х гг.

Илон Маск уверен, что цифровая интеллектуальная революция произойдет в ближайшие годы. «Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно, — сказал Маск. — У нас есть лет пять».[3] А у Каку речь шла всего лишь о разуме таракана!

Маск пошел еще дальше и назвал человечество «биологическим загрузчиком для цифрового разума. К сожалению, это все более и более вероятно».[4] Предзнаменования апокалиптических последствий техно-интеллектуального взрыва наиболее последовательно обобщены в известных книгах Джеймса Баррата «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens» и Юваля Ноя Харари «Homo Deus: Краткая история завтрашнего дня». Торжество алгоритмов и «больших данных», т.е. самодовлеющего информационного процесса грозит вытеснить человека из будущей истории разума. Согласно Харари, внутреннее измерение человека, его воля, желание, страсть, вера, будут переданы в ведение суперпрограмм, управляющих всем развитием цивилизации, да и природы.

Ускоренное развитие самосозидающего системного ИИ может вызывать серьезнейшие опасения за судьбу человечества. Но неужели не остается никаких надежд на миролюбие этого восходящего универсального разума? Может быть, именно его развитие в виде всеобъемлющих программ и сетей приведет к отказу от эгоизма и агрессии, свойственных индивидуальному человеческому разуму, ведущему борьбу за выживание отдельного организма в природе?

От множества ученых, технологов, предпринимателей: Стивена Хокинга, Илона Маска, Билла Гейтса, Сергея Брина, Ника Бострома, Джеймса Баррата, Юваля Харари — мы уже знаем о том, чем нам угрожает ИИ.[5] Поговорим о надежде, хотя бы в рамках одной из гипотез.

2. Ноовитализм. Широкоумные дубравы.

Как признает современная биосемиотика, знаковые и рефлективные процессы свойственны всем формам живого, включая растения. Следовательно, коллективный искусственный разум, возникающий в нейро-электронных сетях, может быть в каком-то отношении близок растительному царству. Биосемиотика и биогерменевтика рассматривают жизнь и живые организмы как знаковые процессы и отношения, способные к самореференции и самоорганизации (аутопоэзис)[6]. В каждой клетке и в организме в целом постоянно происходят чтение, записывание, перезаписывание, создание новых текстов и бесконечный «разговор» на языке генетического кода макромолекул (нуклеиновых кислот и белков) и их взаимодействий.

Такой биосферно-семиосферный подход позволяет по-новому рассмотреть возможности искусственного интеллекта. Он может оказаться более родственным естественному интеллекту, чем казалось раньше, когда последний ограничивался человеческим разумом. Знаковые процессы в квантовых компьютерах и электронных сетях могут обнаружить сходство с вегетацией — на несравненно более высоком уровне скоростной обработки и передачи информации. Машинное мышление может быть ближе вегетативному мышлению, не-тоталитарному и не-инструментальному, поскольку оно не укоренено в эгоцентрическом субъекте [7].

Отсюда синтетическая концепция ноовитализма, или ноовегетации, сращивающая искусственный разум с деятельностью живых систем (noovitalism, noovegetation; noo, разум + vitа, жизнь).

Как полагает Ю. Лотман, «если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого. Определение Тьюринга, согласно которому разумным следует признать такое устройство, при сколь угодно длительном общении с которым мы не отличим его от человека, психологически понятно в своем антропоцентризме, но теоретически малоубедительно»[8].

Можно предположить, что техника будущего — это своего рода умная вегетация, пронизывающая всю вселенную и организующая в ней смысловые процессы совершенно иначе, чем в животно-человеческом мире, а именно — в коммуникативно-кооперативном модусе, без кровавых битв и деструктивного эгоизма (группового и индивидуального). Не исключено, что смысл эволюционного процесса, от животных к человеку, — возвращение, уже через технику как человеческое творение, к жизни как мирной вегетации смыслов.

Для их производства не нужны эксцессы индивидуалистического сознания, которое Достоевский в образе подпольного человека уподобил болезни. [9]

Отсюда все более популярная идея «органической компьютации» (organic computation), воссоздающей, в частности, сетевую структуру растительного царства.

«Каждая травинка берет свою энергию от солнца в процессе фотосинтеза и использует часть этой мощности для выполнения вычислительных задач, а остальное — нормальные процессы жизнеобеспечения растения, как это происходит сегодня. Затем лужайка передает результаты вычислений центральному мультиплексору-координатору. подключенному к компьютерным системам дома, и результаты попадают в национальные и, наконец, глобальные вычислительные сети».[10]

«Приятно жить счастливому растенью —

Оно на воздухе играет, как дитя,

А мы ногой безумной оторвались,

Бежим туда — сюда,

А счастья нет как нет,» —

так у Н. Заболоцкого говорит мыслящий волк, выражая зависть животных и людей к растительному миру (поэма «Безумный волк», 1931). Разумное существо будущего тоже можно представить как «счастливое растение», связанное корнями-сетями со вселенской жизнью разума. И тогда разум будущего — это не металлический робот, а скорее, широкоумная дубрава (слегка переиначивая «широшумные дубровы» в пушкинском «Поэте»).

Следуя логике древних мифов, дерево познания добра и зла в Библии — это не просто растение, а растение-змей, в котором вегетативная символика сопряжена с бестиальной. А дерево жизни, посаженное в Эдеме, имеет чисто растительную природу, что может рассматриваться как символ грядущего развития человечества в направлении мирных форм разума. Биосемиотические процессы как раз и указывают на эту связь между жизнью и разумом в их ненасильственных, недеструктивных формах. Машинное мышление может оказаться гораздо ближе к «растительному», чем к человеческому, склонному к агрессивному заострению оппозиций. Возможно, призвание человека — именно в том, чтобы вернуться к Древу Жизни, т.е. стать частью мыслительных систем, близких органической основе жизни. Достигнув интеллектуальных высот в царстве животных, человек направляет силу своего ума на возвращение разума в русло живого смыслообмена, ноовегетации.

[1] Michio Kaku on Digital Future: Should We Fear Robots?

[2] Маркс К.. Тезисы о Фейербахе (тезис 6).

[4] «Hope we’re not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable» https://space-hippo.net/go-ahead-biological-boot-loaders-ai/

[6] Основоположники биосемиотики— биолог Якоб фон Икскюлль (Jakob von Uexküll, 1864 — 1944) и лингвист, семиотик и этнограф Томас Сибеок (Thomas Sebeok, 1920—2001), автор самого термина «биосемиотика». Теория жизни как аутопоэзиса развита чилийскими учёными У. Матураной и Ф. Варелой в начале 1970-х гг.

[7] См. Michael Marder. Plant-Thinking: A Philosophy of Vegetal Life. New York: Columbia University Press, 2013.

[8] Ю. Лотман. Мозг — текст — культура — искусственный интеллект.//Избранные статьи в трех томах.Т. I. Статьи по семиотике и топологии культуры. Таллин: Александра,1992. С. 33.

[9] Сознание индивида, даже приобщенного к морали и эстетике, тянет его назад, в «тину» эгоизма, и даже усиливает сладострастие изысканной низменности. «. Я много раз хотел сделаться насекомым. Но даже и этого не удостоился. Клянусь вам, господа, что слишком сознавать — это болезнь, настоящая, полная болезнь. . В те же самые минуты, в которые я наиболее способен был сознавать все тонкости «всего прекрасного и высокого», как говорили у нас когда-то, мне случалось уже не сознавать, а делать такие неприглядные деянья, такие, которые. ну да, одним словом, которые хоть и все, пожалуй, делают, но которые, как нарочно, приходились у меня именно тогда, когда я наиболее сознавал, что их совсем бы не надо делать? Чем больше я сознавал о добре и о всем этом «прекрасном и высоком», тем глубже я и опускался в мою тину и тем способнее был совершенно завязнуть в ней» (Ф. Достоевский.»Записки из подполья»).

Мысли об искусственном интеллекте

Хотя человечество всегда переоценивало возможности человеческого разума, тот факт, что сегодня оно вплотную подошло к созданию искусственного интеллекта, свидетельствует о том, что за первой волной биологического разума, возникшей в ходе эволюции жизни, последуют следующие волны, радикально меняющие самое жизнь.

Почему я скептически отношусь к разуму человека? По многим причинам. Прежде всего, в нем много эго и мало духа. Даже в лучших представителях человеческого рода мы видим качества, затрудняющие общежитие — в обществе, состоящем из одних Достоевских или Толстых, жить было бы невыносимо трудно. Я уж не говорю о том, что после многовековых нескончаемых раздоров и войн, после правления некрофилов и садистов человечество так и не выработало противоядий против создания оружия судного дня или мегаубийц типа геноссе Гитлера и товарища Сталина. Даже создав возможности достойной жизни для «золотого миллиарда», оно в XXI веке сохраняет многие признаки пещерности, пылая ненавистью и злобой по отношению к неубиенным врагам.

По словам Михаила Наумовича Эпштейна, поднявшись из глубин природы, разум несет на себе всю пену и муть биологической эволюции, где «выживает сильнейший», где «умри сначала ты, а потом я», где нужно драться за женщину и кусок мяса. Даже инструментальная возможность обеспечения материального изобилия не привела к изменению пещерной психологии человека, связанной со скудостью пищевых ресурсов или «вражеского окружения».

Как снова-таки пишет М.Н.Эпштейн, люди — первопроходцы разума, и они с болью отдирают себя от зверья, вырываются из биологической бойни, а затем еще более кровавой социальной эволюции. И потому мы видим в современной цивилизации, как разум то и дело отступает назад, в дремучую чащу досознательной природы, и используется для грабежа, насилия, обмана, как орудие древнейших хищных инстинктов.

Во-вторых, люди наделены разумом как-то уж слишком «экономно». Даже самые примитивные попытки измерения ай кью (http://www.proza.ru/2012/12/07/586) свидетельствуют о том, что количество людей с IQ более 135 не превышает 2%, а с IQ более 150 — 0,1%. Не случайно, оценивая разум в терминах продолжительности человеческой жизни, эксперты приходят к заключению, что человечество в целом все еще находится в детском возрасте, где-то между 9-10 летним ребенком (оптимистичеcкие оценки) и несмышленышами (пессимистические оценки).

Указанная «экономность» проявляется и географически — более-менее достойная жизнь присуща только пресловутому «золотому миллиарду», то есть 13%-там землян. Но и у «золотого миллиарда» далеко не все в порядке, даже в Европе или США налицо бедность, страдания, несправедливость…

Я мог бы и далее перечислять многочисленные связи современного человечества с неолитом или средневековьем, но эта работа посвящена иному: при всей проблематичности «разума» человечество путем величайшего напряжения сил на наших глазах входит в эпоху не только технологической сингулярности, но и новой ступени эволюции, когда человек впервые сотворит нечто более могущественное, чем он сам — искусственный разум.

«Это напряжение разлито в воздухе, каждый мыслящий старается стать умнее и одареннее себя, чтобы успеть за темпом перемен. Мы вступаем в новый мир, который будет отличаться от 20 в. больше, чем тот — от 19 го. И вместе с тем значительная часть человечества не только не выдерживает этого темпа, но мстительно глядит в спины уходящих вперед, бросает в них копья или надеется на то, что они попадут в ловушку собственной ловкости и смекалки. Эти люди — неврастеники и травматики, ушибленные ходом времени. Ими владеет инстинкт смерти, они стремятся к комфорту небытия»

С огромным огорчением вынужден констатировать, что сфера моей деятельности весьма далека от создания искусственного интеллекта и поэтому я только дилетант, всеми фибрами души чувствующий дыхание новой эпохи. Как многие дилетанты, я задаюсь вопросом: если завтра ИИ действительно станет «умнее» человека, что тогда произойдет?

Здесь, конечно, стоило бы детальнее остановиться на понятии «умнее», но я не буду этого делать, потому что, когда специалисты и эксперты говорят об ИИ, они имеют в виду не то, что ЭВМ уже обыгрывает чемпиона мира по шахматам, создает автопилоты или распознает образы, но — по мнению специалистов — даже на пороге эры «сильного искусственного интеллекта» все ближе и ближе к решению таких проблем ИИ, как выбор, целеполагание, нравственность, ощущения, даже — рефлексия. Скажем, при создании автопилота, резко снижающего вероятность аварии, автопилот способен выбрать, кем пожертвовать, — пассажиром или школьным автобусом с детьми.

Читать еще:  Первый взгляд на умные часы Apple Watch: изобретаем колесо

Я уже не говорю о том, что даже нынешние компьютеры вполне себе сочиняют стихи и музыку, занимаются рекрутингом (подбором персонала), анализирую томограммы с выдачей диагнозов и рекомендаций по лечению, прогнозируют поведения потребителя в интернете вплоть до создания точечной контекстной рекламы лично для вас… Говорят, что даже сегодня они способны ставить диагноз лучше профессиональных врачей просто в силу способности быстро перерабатывать огромную информацию…

Конечно, можно бесконечно или до хрипоты спорить об определении таких терминов, как «разум», «интеллект», «сознание», «самосознание», «интуиция», «воля к самостоятельному целеполаганию» или «способность к самообучению», но я не сомневаюсь, что наши потомки гораздо лучше нас разберутся, как эти ПРИРОДНЫЕ, подчиняющиеся природным закономерностям свойства, вложить в «машину». Например, я убежден в том, что ИИ гораздо легче, чем человеку, распознать сложный язык пчелы (у пчелы мозга нет, одни ганглии, а она способна рассказать, где расположены лучшие цветоносы и еще много чего интересного) или понять «коллективный разум улья».

Конечно, можно задать вопрос, а как быть с человеческим иррационализмом, вероятностью, неопределенностью? Но ведь параллельно с ИИ создают квантовые компьютеры, а также интерфейсы для грядущего синтеза человеческого разума и искусственного интеллекта. А кто мешает в будущем выращивать нейросети на основе ДНК с одновременным программированием.

Всемирно известный американский физик и футуролог Митио Каку, выступая на недавнем Петербургском международном экономическом форуме по теме: «Цифровое будущее: Стоит ли нам бояться роботов?», заявил, что лишь в обозримое время разум ИИ можно сравнить с тараканьим и только к концу 21 века роботы могут достигнуть уровня интеллекта, сравнимого с обезьяньим. Но реально опасными они станут лишь в 22 в., когда смогут вынимать из своего мозга чипы, запрещающие им убийство людей. Мне представляется, что Каку ошибается, перенося на ИИ антропоморфные представления об «убийствах». Кстати, насколько мне известно тараканы тоже не занимаются взаимным уничтожением. Не согласен я и с темпоральным скептицизмом Каку. В частности Илон Маск, о котором я недавно написал очерк, уверен, что цифровая интеллектуальная революция произойдет в ближайшие годы: «Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно. У нас есть лет пять». А у Каку речь шла всего лишь о разуме таракана…

Не верю я и в апокалиптические последствия интеллектуального взрыва: поскольку ИИ разрабатывают лучшие представители рода человеческого, мне трудно представить, что они не позаботятся о том, как предотвратить в ИИ животную природу человека. Согласно новой возникающей прямо на наших глазах дисциплине ноовитализм или ноовегетация, сращивание искусственного разума с деятельностью живых систем вовсе не подразумевает наследование худших сторон живых систем. Кстати, еще Юрий Лотман предсказывал, что если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого.

По словам все того же М.Эпштейна, можно предположить, что техника будущего — это своего рода умная вегетация, пронизывающая всю вселенную и организующая в ней смысловые процессы совершенно иначе, чем в животно-человеческом мире, а именно — в коммуникативно-кооперативном модусе, без кровавых битв и деструктивного эгоизма (группового и индивидуального). Не исключено, что смысл эволюционного процесса, от животных к человеку, — возвращение, уже через технику как человеческое творение, к жизни как мирной вегетации смыслов.

Не следует забывать и того, что даже на заре создания ИИ специалисты и эксперты говорят не просто о «машине», а о возможности интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Да, сегодня искусственный интеллект — лишь верный помощник человека. Но не случайно главная проблема экспертизы заключается в прогнозировании ситуации, когда «машина» станет умнее человека (хотя уже английский математик и криптограф Алан Тьюринг еще в годы Второй мировой создал «Энигму», превосходящую интеллектуальные возможности человека и обеспечившую разгром нацистской Кригсмарине).

Кстати, упомянутому выдающемуся мыслителю и изобретателю принадлежит так называемый «Тест Тьюринга», предложенный в далеком 1950 году и преследующий цель определить, может ли машина мыслить. Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».
Все участники теста не видят друг друга. Если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест. Так вот знаменитый прогнозист Рэй Курцвейл предсказал, что машины, способные пройти тест Тьюринга, в соответствии со знаменитым законом Мура будут изготовлены около 2020 года, то есть уже в наши дни…

Работы по созданию ИИ сегодня ведутся столь широким фронтом, что невозможно даже ответить на вопрос о сферах его ограничения. Поэтому у дилетантов возникают опасения о выходе ИИ из-под контроля и даже о войне ИИ с человечеством. Эксперты же не сомневаются в том, что ИИ будет способен не просто производить знания из данных, но — обучать, чувствовать, творить, изобретать, сопереживать и даже обладать интуицией. Причем работа над подобными функциями ИИ началась почти одновременно с созданием тьюринговской «Энигмы». К примеру, теория решения «машиной» изобретательских задач предложена Г.С.Альтшуллером в далеком 1946-м году.

Грядущая сфера применения ИИ просто необозрима — от нелинейного управления до разработки квантового компьютера, от систем информационной безопасности до диагностической медицины, от страховой деятельности до исследований рынка, игры на бирже и управлении собственностью. Достаточно сказать, что уже сегодня в отрасли здравоохранения работает более сотни стартапов, основанных на применении ИИ. Существует также возможность того, что в будущем ИИ будет писать литературные произведения. В 2016 году японский ИИ написал небольшую историю и почти выиграл литературную премию.

Наука о «создании искусственного разума» не могла не привлечь внимание философов. С появлением первых интеллектуальных систем были затронуты фундаментальные вопросы о человеке и знании, а отчасти о мироустройстве. Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки ИИ». Первая группа отвечает на вопрос: «Что такое ИИ, возможно ли его создание, и, если возможно, то как это сделать?» Вторая группа (этика искусственного интеллекта) задается вопросом: «Каковы последствия создания ИИ для человечества?»

Людей, далеких от разработок, связанных с созданием ИИ, больше всего волнует вопрос о «бунте машин» или способности ИИ уничтожить своих создателей. Хочу их успокоить. В знаменитом Университете сингулярности, руководимом Р.Курцвейлом, этой проблемой занимаются уже сегодня. Скажем, Елиезер Юдковски исследует проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку. В 2004 году в этом университете создан сайт AsimovLaws.com для обсуждения этики ИИ в контексте проблем, затронутых в фильме «Я, робот».

Главную опасность работ по созданию ИИ я вижу совсем в ином — разумные «машины», как ранее роботы, освободят гигантскую армию работников из сферы трудовой и интеллектуальной деятельности. И речь будет идти о сотнях миллионов освобождающихся рабочих мест. Вместе с быстро растущей продолжительностью жизни и временем выхода на пенсию это создает грандиозную армию безработных, с которыми неизвестно что делать. В предвидении этого в продвинутых странах власти уже сегодня начинают задумываться о проблеме «гарантированного дохода» или «безусловного базового дохода» — и именно эта проблема вызывает самые большие споры и сомнения.

Напомню, что эксперимент по введению безусловного базового дохода с 1 января 2017 года до 2019 года ныне проводится в Финляндии. Подобный эксперимент имел место в 2018 году в Онтарио (Канада). Даже в Уганде с 2017 года 50 семей в районе угандийского города Фори-Портал будут в течение двух лет получать по 8,6 долларов США в неделю (прожиточный минимум для одного взрослого и двух детей). А вот на референдуме в Швейцарии (2016 год) респонденты отказались от планов введения безусловного базового дохода. Тем не менее, введение безусловного базового дохода способно обеспечить достойный уровень жизни, освободить время для творчества и образования, преодолеть последствия массовой потери рабочих мест из-за развития робототехники и стать альтернативой системе государственного социального обеспечения.

Искусственный разум: когда машины начнут думать как люди

Сможет ли компьютер научиться думать как человек? Этот вопрос возник одновременно с появлением первых вычислительных машин. В поиске ответа на него в 1950 году английский ученый-математик Алан Тьюринг предложил критерий, позволяющий судить о том, что компьютер по своим мыслительным способностям сравнялся с человеком. Этот критерий известен как тест Тьюринга: суть в том, что машина должна ответить на произвольные вопросы собеседника-человека таким образом, чтобы человек не понял, что общается с машиной.

Формально тест Тьюринга считается пройденным, правда, на довольно примитивном уровне сложности. Мыслить как человек компьютер пока что не умеет. Однако современный уровень технологических и вычислительных возможностей позволяет ему за считаные секунды обрабатывать и анализировать колоссальные объемы информации, обучаться на похожих данных, выявляя закономерности и обобщая полученные результаты. Это дает возможность решать конкретные практические задачи на уровне, все более близком к человеческому.

Что умеет ИИ

Хороший пример такой задачи — перевод текста с иностранного языка. С теоретической точки зрения эта задача во многом идентична оригинальному тесту Тьюринга. По мнению лингвистов, одна из функций языка — распознавание принадлежности собеседника к своей группе (именно этим объясняется изобилие местных диалектов, молодежных и профессиональных жаргонов). Если компьютер предложит перевод, неотличимый от речи носителя языка, то носитель наверняка признает в нем члена своей группы, то есть как минимум человека.

Два года назад компания Google почти полностью перевела свой сервис Google Translate на глубокое обучение (Deep Learning). В отличие от предыдущего поколения систем машинного перевода, которые в основном переводили отдельные слова и фразы, современные нейросети рассматривают предложение целиком, что позволяет переводить его не по значению, а по смыслу. Бурный рост объемов данных, в сборе которых участвуют многочисленные умные устройства интернета вещей (IoT), развитие многослойных нейронных сетей, алгоритмы Deep Learning и другие технологические возможности научили обычные компьютеры и мобильные устройства не только читать, слышать, видеть и понимать информацию, но и выполнять сложные задачи на таком же уровне, на котором их бы выполнил и человек.

Соответственно, в разы вырос и объем инвестиций в технологии искусственного интеллекта. Так, по данным Venture Scanner, в 2007 году он составлял всего $500 млн, а в 2017 году — уже свыше $6 млрд. Доходы от внедрения систем искусственного интеллекта, согласно данным Gartner, в 2018 году составят $1,2 трлн, что на 70% выше, чем в 2017 году. А к 2022 году их объем увеличится до $3,9 трлн.

Microsoft Bing в 2018 году практически безошибочно предсказал всех лауреатов премии «Оскар», просчитавшись всего в одном случае.

Искусственный интеллект уже активно применяется во множестве отраслей. Что же касается ИТ-компаний, то в них, наверное, не осталось областей, где бы он не использовался. Компания Mail.Ru Group реализовала машинное обучение практически во всех своих продуктах. Это автоматические ответы на письма в «Почте», компьютерное зрение в «Облаке», поиск и рекомендация товаров в сервисах электронной коммерции, таргетированный показ рекламы и многое другое. Компания Samsung разработала систему внутриигровой контекстной рекламы Gadget, в которой объявления не всплывают в виде раздражающих пользователя отдельных сообщений, а плавно встраиваются в игровой процесс. При этом тематика рекламы постоянно меняется в соответствии с предпочтениями геймера. На блокчейне разработана платформа Effect.Ai, которая будет связывать поставщиков и потребителей различных услуг напрямую, без посредников. Искусственный интеллект научился обыгрывать человека в покер и в Dota 2. Принадлежащая Google компания DeepMind, которой уже удалось создать искусственный интеллект, выигравший у чемпиона мира по игре го, сегодня разрабатывает алгоритмы, способные победить человека в игре StarCraft 2. Системы прогнозирования на базе ИИ все шире применяются в спорте и шоу-бизнесе. Так, искусственный интеллект Microsoft Bing в 2018 году практически безошибочно предсказал всех лауреатов премии «Оскар», просчитавшись всего в одном случае.

Неплохие достижения у ИИ в медицине. Появились системы, позволяющие на ранних стадиях диагностировать онкологические заболевания кожи, а также выявлять нарушения в работе сердца по ЭКГ с большей эффективностью, чем кардиолог. В Китае на базе ИИ реализован проект социальной направленности: разработчики создали систему, которая анализировала поведение пользователей в соцсетях и выявляла среди них тех, у кого были суицидальные наклонности, с целью оказать им своевременную психологическую помощь. На сегодняшний день с ее помощью удалось спасти уже более 20 000 человек.

Нейронные сети уже называют Software 2.0. В отличие от классического подхода к разработке (Software 1.0) они не требуют написания пошаговых инструкций для компьютера. Достаточно указать конечную цель (например, выиграть в го), а также задать структуру сети и сигналы для обучения. Далее нейросеть сможет выучить необходимые зависимости в данных для решения задачи, используя имеющиеся в ее распоряжении вычислительные ресурсы.

Чего не умеет ИИ

Что искусственный интеллект пока не умеет делать? В первую очередь это задачи, где сложно принять однозначное решение, где требуется контекстуальный подход в зависимости от условий и ситуации. ИИ не сможет самостоятельно осуществить научное открытие. Одним словом, везде, где нужен полноценный анализ ситуации, а не просто принятие решения, основанного на обучающей выборке данных, пальма первенства будет за человеком.

Конечно, технологии ИИ находятся на пике хайпа, однако нельзя не отметить определенные проблемы, риски и нерешенные задачи, связанные с ними. В первую очередь это, конечно, качество данных. Ведь оно напрямую зависит от того, что мы предоставляем машине в качестве обучающей выборки. Так, разрабатывая свою систему распознавания лиц на фото, Mail.Ru Group столкнулась с такой проблемой, как отсутствие качественных размеченных выборок с лицами азиатского происхождения, детскими лицами, а также фотографиями одних и тех же людей, сделанными в разные годы, по мере их взросления. В результате разработчикам пришлось формировать такие данные самостоятельно, что вылилось в немалые дополнительные затраты.

Читать еще:  Genius SW-4.1 Surround

С 2009 года автомобили Google наездили в беспилотном режиме 3,7 млн километров на дорогах общественного пользования.

Хороший пример — разработка беспилотных автомобилей. По сути, здесь практически всегда используется метод supervised learning (обучение путем проб и ошибок). К примеру, компания Google потратила не один год на то, чтобы получить достаточный объем данных и учесть все нюансы беспилотной езды. С 2009 года автомобили Google наездили в беспилотном режиме 3,7 млн километров на дорогах общественного пользования и тестовых полигонах в Калифорнии, Аризоне, Техасе и Вашингтоне, а также более 1,6 млрд километров в режиме компьютерной симуляции. От качества этой работы зависит, насколько грамотно будет ориентироваться автомобиль без водителя на дороге, определять других участников дорожного движения, распознавать объекты на дороге, правильно реагировать на различные ситуации и т. д.

Еще один серьезный недостаток или скорее ограничение технологии искусственного интеллекта заключается в узком спектре применения каждого алгоритма. Для каждой отдельной операции или бизнес-процесса систему искусственного интеллекта приходится очень серьезно дорабатывать. Вряд ли под новую задачу получится адаптировать уже существующую нейросеть, пусть даже специализирующуюся на смежных задачах, поскольку данные будут отличаться. В большинстве случаев изменения будут весьма значительны. Например, сложно будет разработать на базе AI-системы беспилотного автомобиля систему управления беспилотным речным или морским катером. Это ключевая проблема так называемого «слабого» искусственного интеллекта, заточенного под решение конкретной задачи. В свою очередь, «сильный» искусственный интеллект, практическая реализация которого — вопрос будущего, должен уметь не просто алгоритмически оперировать данными и информацией, но понимать их смысл. Например, искусственный интеллект не умеет читать комиксы, не способен сопоставить все картинки с текстом в правильном порядке в соответствии с сюжетом, а с этой задачей справляются даже маленькие дети. Одним из важных шагов в сторону «сильного» ИИ можно назвать разработку капсульных нейронных сетей. Они обрабатывают информацию так, как это делает человеческий мозг, при этом не нуждаются в больших объемах данных для обучающих моделей.

Кто несет ответственность за решения, принятые искусственным интеллектом? Банк может заблокировать важную финансовую транзакцию, беспилотный автомобиль может сбить человека, не заметив его либо приняв за какой-то другой объект. Искусственный интеллект, управляющий системой банковского кредитного скоринга, чаще «отказывает» чернокожим заявителям, чем белым, в получении кредита. Системы распознавания лиц, которые используют в том числе и правоохранительные органы, неплохо различают белых людей, но часто ошибаются при обработке образов чернокожих, особенно женщин. Так, при распознавании лиц темнокожих женщин коммерческие системы ошибаются почти в 35% случаев. Если раньше в основе таких инцидентов был человеческий фактор, то сейчас это bias (искажение) в данных.

Нейросеть Deep Dream решила, что рука — это неотъемлемая часть гантели.

Разумеется, это временные проблемы, которые можно решить, предоставив системе более совершенную обучающую выборку данных. Над этим сегодня и трудятся разработчики. В автомобильной индустрии чаще всего отвечать приходится не разработчику AI-системы, а производителю транспортного средства, который установил ее на свою продукцию. Но в большинстве случаев бремя ответственности лежит и на разработчике, и на заказчике. В отличие от обычных систем, работающих в строгом соответствии с программным кодом, который можно проверить на ошибки, модифицировать и т. д., мы не всегда можем заранее предсказать, какой результат нам дадут многослойные нейронные сети и системы глубокого обучения после обработки того или иного массива данных. Так, нейросеть Deep Dream компании Google попросили генерировать изображение гантели. Система справилась с задачей, однако ко всем полученным изображениям гантели была добавлена и рука человека. Иными словами, нейросеть решила, что рука — это неотъемлемая часть гантели.

И все же технологии искусственного интеллекта уже сегодня в ряде случаев облегчают жизнь обычных людей и помогают компаниям в решении множества задач. Несмотря на существующие особенности и «подводные камни», системы на базе AI привлекают заказчиков, в том числе из крупного бизнеса. А многократно растущий с каждым годом объем инвестиций дает основания надеяться на существенный технологический рывок уже в ближайшем будущем.

Если бы я имел разум: как думает искусственный интеллект

Искусственный интеллект стал гораздо сильнее – по крайней мере, при решении некоторых задач. ИИ победил чемпиона мира по шахматам, в Го, а теперь и по покеру. Но может ли ИИ думать?

Ответ звучит сложно, потому что сложно само понятие интеллекта. Можно быть начитанным, обладать уличной смекалкой, чувствительным, мудрым, рациональным или опытным; сложно преуспеть во всех этих аспектах сразу. У интеллекта много ресурсов и мозг реагирует на них неодинаково. Поэтому попытки разработать искусственный интеллект сталкиваются с самыми разнообразными сложностями, одной из самых больших при этом является человеческий интеллект.

Как бы там ни было, именно мозг дает важнейшие подсказки для создания ИИ – он состоит из миллиардов нейронов, передающих друг другу информацию в области, предназначенные для осуществления таких функций, как память, язык и мысли. Мозг динамичен, и так же, как мы можем наращивать мышцы, можно улучшать и наши когнитивные способности – мы можем учиться. Так же может делать и ИИ благодаря разработке искусственных нейронных сетей (ИНН), тип машинного алгоритма, в котором узлы симулируют нейроны, сообщающиеся между собой и передающие информацию. Такой ИИ, как AlphaGo, программа, победившая в прошлом году чемпиона мира в Го, использует ИНН не только чтобы подсчитать статистические возможности и результат ходов, но так же для смены стратегии в зависимости от стратегии противника.

Facebook, Amazon, Netflix, Microsoft и Google – все эти компании используют глубокое обучение, которое расширяет возможности обычных ИНН посредством добавления слоев к входной/выходной информации. Это отражает способ человеческого мышления – когда мы обрабатываем входную информацию, она так же проходит через слои. Например, смотря футбол по телевизору, мы воспринимаем то, что происходит в данный момент времени, но мы так же обдумываем и много другого: кто на поле (и кого нет), какие отыгрываются стратегии, как игра соотносится с имеющийся информацией и историей (часто ли команда побеждает другую? Играет ли защитник как обычно?), как ведут себя рефери и много других деталей. Во время обработки этой информации мы используем память, распознавание образов, статистический и стратегический анализ, сравнение, прогноз и прочие когнитивные возможности. Глубокое обучение пытается симулировать эти слои.

Наверное, вы уже знакомы с алгоритмами глубокого обучения. Приходилось ли вам удивляться, откуда Фейсбук знает, что нужно поместить рекламу о резиновых сапогах после ливня? Или каким образом он предлагает вам страницу после того, как вам понравилась похожая на неё? Алгоритм Фейсбука DeepText способен обрабатывать сотни постов на десятках языков в секунду. Он понимает разницу между песней Purple Rain и причиной покупки галош.

Глубокое обучение можно использовать с лицами, определения членов семей, посетивших юбилей или работников, оторвавшихся на вечеринке. Эти алгоритмы могут распознавать объекты в контексте – такая программа может рассмотреть алфавитные кубики и книги на полу или детский шезлонг. Легко представить, какие выводы можно сделать из такой фотографии и как это использовать для рекламы.

Гугл использует рекуррентные нейронные сети (РНС) для распознавания картинок и языковых переводов. Это позволяет Google Translate выполнять работу лучше обычного перевода слова в слово, находить связи между языками, которые в него не вкладывались. Даже если Google Translate не создавался для перевода с исландского на вьетнамский, он сможет осуществить перевод благодаря нахождению общих мест в языках и разработке собственного языка, который будет служить посредником.

Компьютерное мышление привязывалось к языку с момента выхода оригинальной работы Алана Тьюринга «Вычислительная техника и интеллект». В ней Тьюринг описал Тест Тьюринга – способ, с помощью которого можно понять, может ли думать машина. В Тесте Тьюринга, человек беседует в чате невидимым собеседником. Если им является компьютер, и человеку показалось, что он говорит с другим человеком, тест считается пройденным. Со временем стало ясно, что даже если компьютер может правдоподобно изобразить человеческую речь (включая опечатки, сленг, обсценную лексику и прочее), это ещё не значит, что он думает. В 60х годах программа ELIZE сумела обмануть участников в том, что они беседуют с настоящим врачом, потому что программа задавала вопросы, которые обычный человек не задаст, и притворялась, будто вчитывается в ответ. На самом деле ELIZA собирала ключевые слова из ответа и превращала их в вопросы, или просто просила: «Расскажите мне ещё что-нибудь». Хотя многие считают, что ELIZA прошла тест Тьюринга, совершенно ясно, что обработка языка и мышление задействуют разные способности.

Но как же насчет Ватсона IBМ, который смог победить двух противников-людей в «Своей игре»? Превосходство Ватсона опирается на моментальный доступ к большому количеству информации и на подсчет ответов. В игре Ватсону попался следующий вопрос: «Морис Ламарш нашел своего Орсона Уэллса, чтобы озвучить грызуна, пытающегося достигнуть мирового господства». Возможные ответы и предположения Ватсона были следующими:

Пинки и Брейн: 63 процента

Эд Вуд: 10 процентов

Капибара: 10 процентов

Если поискать в Гугл имя Мориса Ламарша, можно быстро узнать, что он озвучивал Пинки. Но подсказка запутана, потому что здесь несколько ключевых терминов: Ламарш, озвучка, грызун и мировое господство. Орсон Уэллс служит отвлекающим маневром, и Ламарш использовал свой классический голос Орсона Уэллса для персонажа Винсента Д’Онофрио в фильме Эд Вуд, но эта часть не имеет ничего общего с грузыном. Аналогичным образом, капибара — это южно-американский грызун (самый большой в мире, из-за чего, пожалуй, Ватсон и связь его с «господством над миром»), но животное никак не связано с Ламаршем или озвучкой. Человеческий мозг справился бы с такими концептами, вызвавшими у Ватсона трудности; поэтому Кен Дженнигс смог победить его в этом вопросе.

Тем не менее, способности Ватсона продолжают расти – теперь он работает над проблемой лечения рака. Посредством загрузки истории, информации по диагностике, медицинских карт и другой информации, Ватсон может работать с другими врачами для определения рака и определения планов лечения. «Проект Люси» использует возможности Ватсона для помощи Африке в вопросах земледелия, экономики и социальных проблем. Ватсон может проявить себя в отдельных областях, но не в пересекающихся.

Пожалуй, главные ограничения ИИ можно описать одной буквой: О. У нас есть ИИ, но нет ИОИ – искусственного общего интеллекта (который иногда называют «сильным» или «полным» ИИ). Различие заключается в том, что ИИ может выполнять одну задачу или играть в игру, но не может применять стратегии или технику в других сценариях или областях – пожалуй, вы сможете победить AlphaGo в крестики-нолики. Можно провести параллель с человеческой способностью к критическому мышлению или синтезу – мы можем применять знание об историческом событии в моде или использовать эффективные маркетинговые техники в разговоре с боссом о повышении зарплаты, потому что замечаем связь. ИИ пока не может этого делать.

Мнения разделились: одни считают, что мы никогда не создадим настоящий ИОИ, другие считают, что это вопрос времени (и денег). В прошлом году компания Kimera объявила о программе Nigel, которую они называют первым ИОИ. Так как общественность ещё не получила доступа к бета-версии, мы не можем подтвердить эту информацию. Пока ИИ обучается как мы: посредством просмотра роликов на ютубе и чтению книг. А вот радует ли это, или пугает – уже совершенно другой вопрос.

Искусственный интеллект VS человек

Технологии развиваются семимильными шагами, и мы каждый день сталкиваемся с умными машинами, автоматизированными системами, искусственным интеллектом. В чем же отличие ИИ от интеллекта человека и чем нам грозит технологический прогресс?

Умственный интеллект человека, IQ (intelligence quotient) — это совокупность накопленных знаний, умение их правильно применять, а также широта кругозора, умение находить логические решения. Все тесты, направленные на определение коэффициента интеллекта, сопоставляют его с возрастом человека, поскольку интеллект постоянно развивается. Развитие умственных способностей напрямую зависит от когнитивных функций головного мозга — внимания, памяти, мышления, восприятия. Кроме того, человеку присущ определенный уровень эмоционального интеллекта — это умение определять подтексты, скрытые смыслы, манипуляции со стороны собеседника благодаря считыванию его эмоций, мимики, жестов, позы. Интеллект человека развивается в социуме, когда мы взаимодействуем с другими людьми, обмениваемся опытом, перенимаем культурные традиции.

Колоссальное отличие искусственного интеллекта (AI, artificial intelligence) заключается в том, что он изначально запрограммирован на определенные действия. В него заложен алгоритм, благодаря которому он выполняет те или иные функции. Например, нейросети — разновидность ИИ — могут создавать шедевры искусства: картины, музыку, литературные произведения. Но в них изначально заложена база знаний, на которые они опираются. Они с молниеносной скоростью обрабатывают огромные объемы информации для этого. Делает ли это искусственный интеллект умнее человека? Давайте посмотрим на неоспоримые преимущества AI:

  1. У него абсолютная память. Человек может что-то забыть, машина же — нет, она извлекает всю имеющуюся у нее информацию при необходимости.
  2. Он не может допустить ошибку по невнимательности или из-за усталости. Если алгоритмом заложено выполнять вычислительные операции, то ИИ будет это делать сколько потребуется.
  3. На него не влияют эмоции. В отличие от человека, машина не поддается манипуляциям и уловкам, она строго следует инструкциям вне зависимости от обстоятельств. Здесь может скрываться и опасность, поскольку эти действия могут быть, например, неэтичными — все зависит от того, как ее запрограммировать.
  4. Он дает все возможные прогнозы. Компьютер в состоянии просчитать абсолютно все варианты развития событий.

Симбиоз

На самом деле, мы уже давно прекрасно существуем в симбиозе с ИИ: мы обучаем его новым алгоритмам, а он, в свою очередь, помогает нам. Возьмем ту же автозамену слов в текстовых редакторах и мессенджерах. Если при наборе слова мы допускаем ошибку, машина нам подсказывает правильное написание. При этом в электронный словарь постоянно добавляются новые слова. Из этого следует, что AI не может существовать самостоятельно, так или иначе, он выполняет работу, необходимую человеку и заложенную в него человеком. Стоит ли нам опасаться того дня, когда человек перестанет быть нужен искусственному интеллекту? Некоторое время назад в интернете распространился афоризм: «Я не боюсь машины, которая пройдет тест Тьюринга. Я боюсь ту, которая его намеренно провалит». Здесь уже надо поднимать вопрос наличия сознания у компьютера.

Читать еще:  Breach – на службе ЦРУ (первый взгляд)

Тест Тьюринга

Тест Тьюринга — некая проверка, которая была предложена математиком и криптографом Аланом Тьюрингом. Он заключается в оценке поведения машины — если сторонний наблюдатель не сможет отличить в диалоге, где человек, а где машина — тест считается пройденным. И в 2014 году издание The Independent опубликовало новость о том, что компьютерной программе удалось убедить наблюдателя в том, что она — 13-летний мальчик. Согласно правилам теста, машина должна убедить более 30% собеседников посредством 5-минутных текстовых сообщений. И программе Eugene Goostman удалось убедить 33% проверяющих. Означает ли это, что компьютер сможет заменить человека?

Поскольку человеческий мозг еще не изучен до конца, то и все его свойства пока не представляется возможным сымитировать при помощи AI. Для искусственного интеллекта характерны память и мышление, но только в виде алгоритмов, поэтому нельзя сравнивать обширное понятие человеческого интеллекта с набором программ. Однако в эпоху прорывных технологий возможен скачок, который приблизит ИИ к человеческому интеллекту. Пока преимущество на нашей стороне, мы можем развивать собственный мозг благодаря его нейропластичности. Постоянные тренировки когнитивных функций, обретение новых навыков и способов мышления — ключ к нашей продуктивности и плодотворному взаимодействию с компьютерными программами.

Мысли об искусственном интеллекте

Хотя человечество всегда переоценивало возможности человеческого разума, тот факт, что сегодня оно вплотную подошло к созданию искусственного интеллекта, свидетельствует о том, что за первой волной биологического разума, возникшей в ходе эволюции жизни, последуют следующие волны, радикально меняющие самое жизнь.

Почему я скептически отношусь к разуму человека? По многим причинам. Прежде всего, в нем много эго и мало духа. Даже в лучших представителях человеческого рода мы видим качества, затрудняющие общежитие — в обществе, состоящем из одних Достоевских или Толстых, жить было бы невыносимо трудно. Я уж не говорю о том, что после многовековых нескончаемых раздоров и войн, после правления некрофилов и садистов человечество так и не выработало противоядий против создания оружия судного дня или мегаубийц типа геноссе Гитлера и товарища Сталина. Даже создав возможности достойной жизни для «золотого миллиарда», оно в XXI веке сохраняет многие признаки пещерности, пылая ненавистью и злобой по отношению к неубиенным врагам.

По словам Михаила Наумовича Эпштейна, поднявшись из глубин природы, разум несет на себе всю пену и муть биологической эволюции, где «выживает сильнейший», где «умри сначала ты, а потом я», где нужно драться за женщину и кусок мяса. Даже инструментальная возможность обеспечения материального изобилия не привела к изменению пещерной психологии человека, связанной со скудостью пищевых ресурсов или «вражеского окружения».

Как снова-таки пишет М.Н.Эпштейн, люди — первопроходцы разума, и они с болью отдирают себя от зверья, вырываются из биологической бойни, а затем еще более кровавой социальной эволюции. И потому мы видим в современной цивилизации, как разум то и дело отступает назад, в дремучую чащу досознательной природы, и используется для грабежа, насилия, обмана, как орудие древнейших хищных инстинктов.

Во-вторых, люди наделены разумом как-то уж слишком «экономно». Даже самые примитивные попытки измерения ай кью (http://www.proza.ru/2012/12/07/586) свидетельствуют о том, что количество людей с IQ более 135 не превышает 2%, а с IQ более 150 — 0,1%. Не случайно, оценивая разум в терминах продолжительности человеческой жизни, эксперты приходят к заключению, что человечество в целом все еще находится в детском возрасте, где-то между 9-10 летним ребенком (оптимистичеcкие оценки) и несмышленышами (пессимистические оценки).

Указанная «экономность» проявляется и географически — более-менее достойная жизнь присуща только пресловутому «золотому миллиарду», то есть 13%-там землян. Но и у «золотого миллиарда» далеко не все в порядке, даже в Европе или США налицо бедность, страдания, несправедливость…

Я мог бы и далее перечислять многочисленные связи современного человечества с неолитом или средневековьем, но эта работа посвящена иному: при всей проблематичности «разума» человечество путем величайшего напряжения сил на наших глазах входит в эпоху не только технологической сингулярности, но и новой ступени эволюции, когда человек впервые сотворит нечто более могущественное, чем он сам — искусственный разум.

«Это напряжение разлито в воздухе, каждый мыслящий старается стать умнее и одареннее себя, чтобы успеть за темпом перемен. Мы вступаем в новый мир, который будет отличаться от 20 в. больше, чем тот — от 19 го. И вместе с тем значительная часть человечества не только не выдерживает этого темпа, но мстительно глядит в спины уходящих вперед, бросает в них копья или надеется на то, что они попадут в ловушку собственной ловкости и смекалки. Эти люди — неврастеники и травматики, ушибленные ходом времени. Ими владеет инстинкт смерти, они стремятся к комфорту небытия»

С огромным огорчением вынужден констатировать, что сфера моей деятельности весьма далека от создания искусственного интеллекта и поэтому я только дилетант, всеми фибрами души чувствующий дыхание новой эпохи. Как многие дилетанты, я задаюсь вопросом: если завтра ИИ действительно станет «умнее» человека, что тогда произойдет?

Здесь, конечно, стоило бы детальнее остановиться на понятии «умнее», но я не буду этого делать, потому что, когда специалисты и эксперты говорят об ИИ, они имеют в виду не то, что ЭВМ уже обыгрывает чемпиона мира по шахматам, создает автопилоты или распознает образы, но — по мнению специалистов — даже на пороге эры «сильного искусственного интеллекта» все ближе и ближе к решению таких проблем ИИ, как выбор, целеполагание, нравственность, ощущения, даже — рефлексия. Скажем, при создании автопилота, резко снижающего вероятность аварии, автопилот способен выбрать, кем пожертвовать, — пассажиром или школьным автобусом с детьми.

Я уже не говорю о том, что даже нынешние компьютеры вполне себе сочиняют стихи и музыку, занимаются рекрутингом (подбором персонала), анализирую томограммы с выдачей диагнозов и рекомендаций по лечению, прогнозируют поведения потребителя в интернете вплоть до создания точечной контекстной рекламы лично для вас… Говорят, что даже сегодня они способны ставить диагноз лучше профессиональных врачей просто в силу способности быстро перерабатывать огромную информацию…

Конечно, можно бесконечно или до хрипоты спорить об определении таких терминов, как «разум», «интеллект», «сознание», «самосознание», «интуиция», «воля к самостоятельному целеполаганию» или «способность к самообучению», но я не сомневаюсь, что наши потомки гораздо лучше нас разберутся, как эти ПРИРОДНЫЕ, подчиняющиеся природным закономерностям свойства, вложить в «машину». Например, я убежден в том, что ИИ гораздо легче, чем человеку, распознать сложный язык пчелы (у пчелы мозга нет, одни ганглии, а она способна рассказать, где расположены лучшие цветоносы и еще много чего интересного) или понять «коллективный разум улья».

Конечно, можно задать вопрос, а как быть с человеческим иррационализмом, вероятностью, неопределенностью? Но ведь параллельно с ИИ создают квантовые компьютеры, а также интерфейсы для грядущего синтеза человеческого разума и искусственного интеллекта. А кто мешает в будущем выращивать нейросети на основе ДНК с одновременным программированием.

Всемирно известный американский физик и футуролог Митио Каку, выступая на недавнем Петербургском международном экономическом форуме по теме: «Цифровое будущее: Стоит ли нам бояться роботов?», заявил, что лишь в обозримое время разум ИИ можно сравнить с тараканьим и только к концу 21 века роботы могут достигнуть уровня интеллекта, сравнимого с обезьяньим. Но реально опасными они станут лишь в 22 в., когда смогут вынимать из своего мозга чипы, запрещающие им убийство людей. Мне представляется, что Каку ошибается, перенося на ИИ антропоморфные представления об «убийствах». Кстати, насколько мне известно тараканы тоже не занимаются взаимным уничтожением. Не согласен я и с темпоральным скептицизмом Каку. В частности Илон Маск, о котором я недавно написал очерк, уверен, что цифровая интеллектуальная революция произойдет в ближайшие годы: «Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно. У нас есть лет пять». А у Каку речь шла всего лишь о разуме таракана…

Не верю я и в апокалиптические последствия интеллектуального взрыва: поскольку ИИ разрабатывают лучшие представители рода человеческого, мне трудно представить, что они не позаботятся о том, как предотвратить в ИИ животную природу человека. Согласно новой возникающей прямо на наших глазах дисциплине ноовитализм или ноовегетация, сращивание искусственного разума с деятельностью живых систем вовсе не подразумевает наследование худших сторон живых систем. Кстати, еще Юрий Лотман предсказывал, что если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого.

По словам все того же М.Эпштейна, можно предположить, что техника будущего — это своего рода умная вегетация, пронизывающая всю вселенную и организующая в ней смысловые процессы совершенно иначе, чем в животно-человеческом мире, а именно — в коммуникативно-кооперативном модусе, без кровавых битв и деструктивного эгоизма (группового и индивидуального). Не исключено, что смысл эволюционного процесса, от животных к человеку, — возвращение, уже через технику как человеческое творение, к жизни как мирной вегетации смыслов.

Не следует забывать и того, что даже на заре создания ИИ специалисты и эксперты говорят не просто о «машине», а о возможности интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Да, сегодня искусственный интеллект — лишь верный помощник человека. Но не случайно главная проблема экспертизы заключается в прогнозировании ситуации, когда «машина» станет умнее человека (хотя уже английский математик и криптограф Алан Тьюринг еще в годы Второй мировой создал «Энигму», превосходящую интеллектуальные возможности человека и обеспечившую разгром нацистской Кригсмарине).

Кстати, упомянутому выдающемуся мыслителю и изобретателю принадлежит так называемый «Тест Тьюринга», предложенный в далеком 1950 году и преследующий цель определить, может ли машина мыслить. Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».
Все участники теста не видят друг друга. Если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест. Так вот знаменитый прогнозист Рэй Курцвейл предсказал, что машины, способные пройти тест Тьюринга, в соответствии со знаменитым законом Мура будут изготовлены около 2020 года, то есть уже в наши дни…

Работы по созданию ИИ сегодня ведутся столь широким фронтом, что невозможно даже ответить на вопрос о сферах его ограничения. Поэтому у дилетантов возникают опасения о выходе ИИ из-под контроля и даже о войне ИИ с человечеством. Эксперты же не сомневаются в том, что ИИ будет способен не просто производить знания из данных, но — обучать, чувствовать, творить, изобретать, сопереживать и даже обладать интуицией. Причем работа над подобными функциями ИИ началась почти одновременно с созданием тьюринговской «Энигмы». К примеру, теория решения «машиной» изобретательских задач предложена Г.С.Альтшуллером в далеком 1946-м году.

Грядущая сфера применения ИИ просто необозрима — от нелинейного управления до разработки квантового компьютера, от систем информационной безопасности до диагностической медицины, от страховой деятельности до исследований рынка, игры на бирже и управлении собственностью. Достаточно сказать, что уже сегодня в отрасли здравоохранения работает более сотни стартапов, основанных на применении ИИ. Существует также возможность того, что в будущем ИИ будет писать литературные произведения. В 2016 году японский ИИ написал небольшую историю и почти выиграл литературную премию.

Наука о «создании искусственного разума» не могла не привлечь внимание философов. С появлением первых интеллектуальных систем были затронуты фундаментальные вопросы о человеке и знании, а отчасти о мироустройстве. Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки ИИ». Первая группа отвечает на вопрос: «Что такое ИИ, возможно ли его создание, и, если возможно, то как это сделать?» Вторая группа (этика искусственного интеллекта) задается вопросом: «Каковы последствия создания ИИ для человечества?»

Людей, далеких от разработок, связанных с созданием ИИ, больше всего волнует вопрос о «бунте машин» или способности ИИ уничтожить своих создателей. Хочу их успокоить. В знаменитом Университете сингулярности, руководимом Р.Курцвейлом, этой проблемой занимаются уже сегодня. Скажем, Елиезер Юдковски исследует проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку. В 2004 году в этом университете создан сайт AsimovLaws.com для обсуждения этики ИИ в контексте проблем, затронутых в фильме «Я, робот».

Главную опасность работ по созданию ИИ я вижу совсем в ином — разумные «машины», как ранее роботы, освободят гигантскую армию работников из сферы трудовой и интеллектуальной деятельности. И речь будет идти о сотнях миллионов освобождающихся рабочих мест. Вместе с быстро растущей продолжительностью жизни и временем выхода на пенсию это создает грандиозную армию безработных, с которыми неизвестно что делать. В предвидении этого в продвинутых странах власти уже сегодня начинают задумываться о проблеме «гарантированного дохода» или «безусловного базового дохода» — и именно эта проблема вызывает самые большие споры и сомнения.

Напомню, что эксперимент по введению безусловного базового дохода с 1 января 2017 года до 2019 года ныне проводится в Финляндии. Подобный эксперимент имел место в 2018 году в Онтарио (Канада). Даже в Уганде с 2017 года 50 семей в районе угандийского города Фори-Портал будут в течение двух лет получать по 8,6 долларов США в неделю (прожиточный минимум для одного взрослого и двух детей). А вот на референдуме в Швейцарии (2016 год) респонденты отказались от планов введения безусловного базового дохода. Тем не менее, введение безусловного базового дохода способно обеспечить достойный уровень жизни, освободить время для творчества и образования, преодолеть последствия массовой потери рабочих мест из-за развития робототехники и стать альтернативой системе государственного социального обеспечения.

Ссылка на основную публикацию
Статьи c упоминанием слов:

Adblock
detector