«Роботы могут начать войну». Илон Маск предупредил о рисках цифровой экономики

Сооснователь SpaceX и Tesla считает, что искусственный интеллект представляет реальный риск для человеческой цивилизации. Нужно ли принимать срочные меры? Что думают российские бизнесмены о рисках развития искусственного интеллекта?

Илон Маск назвал искуственный интеллект главной угрозой человечеству. Сооснователь SpaceX, Tesla и целого ряда других компаний призвал государства срочно взяться за разработку законов для сферы искусственного интеллекта. Согласны ли с миллиардером, построившим состояние на инновациях, российские участники рынка?

Илон Маск за словами в карман не лезет. «Искусственный интеллект является основной угрозой, с которой человечество сталкивается как цивилизация», — приводит цитату журнал Fortune. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча», — предостерегает Маск. Звучит пугающе, конечно. Добавить в кадр осознавшие себя ядерные беспилотники, держащие в страхе мировых лидеров, и блокбастер получится. На самом деле, это стандартный алармистский подход к прогрессу в IT, комментирует Роман Душкин, директор по науке и технологиям проекта «Джейн», который занимается разработкой умной программы-доктора для помощи врачам-людям.

Роман Душкин директор по науке и технологиям проекта «Джейн» «Сегодня под термином «искусственный интеллект» понимается две совершенно разные вещи. С одной стороны, то, о чем говорит Илон Маск, — это как бы сильный искусственный интеллект. Существо, которое осознает себя внутри компьютерных сетей, и у него будет разум. И если такое произойдет действительно, мы даже не успеем рыпнуться, когда оно станет намного, в тысячу, в миллионы, в миллиарды раз умнее всего человечества вместе взятого. И думать о том, что такое сверхинтеллектуальное существо будет обращать внимание на каких-то людишек, копошащихся в грязи на планете Земля, — это сложно. А с другой стороны, термин «искусственный интеллект» предполагает просто набор технологий, которые сегодня используются в машинном обучении: эволюционные алгоритмы, искусственные нейросети и так далее. Если так вот где-то на 30 лет назад переместиться мысленно и показать человеку на улице современный смартфон с современной картой города, с возможностью построить маршрут от точки А в точку Б с любым транспортом, то человеку 30 лет назад это показалось бы немыслимым, и он бы сказал: «Конечно, эта система интеллектуальна». Но сегодня мы ее уже не воспринимаем интеллектуальной».

При этом регулирование искусственного интеллекта однозначно необходимо. Маск сгущает краски, причем не в первый раз, в прошлом году он делал примерно такое же заявление, но в благих целях. Одна из главных угроз искусственного интеллекта — автоматизация все большего числа областей экономики. Например, в США более 3 миллионов профессиональных дальнобойщиков. Переход на автопилот в индустрии грузовых автоперевозок в ближайшие пять-десять лет почти неизбежен. То же касается водителей такси. Что делать с этими людьми? Без координированных государственных программ переобучения страну ждет массовая безработица и взрывной рост социального недовольства, и это, уже не говоря об этических вопросах создания искусственного интеллекта, продолжает сооснователь стартапа в области глубокого обучения «Дивидити» Григорий Фурсин.

Григорий Фурсин сооснователь стартапа в области глубокого обучения «Дивидити» «Тут даже не про ограничение идет речь, а про то, что сейчас нет правовой базы для искусственного интеллекта, для ответственности. Ни в России, ни за рубежом. Простой пример: одна из областей, где искусственный интеллект сейчас используется, — это автопилот. И теперь, если автомобиль такой кого-то сбивает, кто ответственен? Ответственен водитель, который как бы не ведет машину, ответственен разработчик? Есть более страшные случаи, которые сейчас обсуждают, — это, например, вы едете на машине с автопилотом по горе, и вдруг перед вами возникает пять человек. И тот же самый искусственный интеллект может очень быстро разобраться, что жертв не избежать. А тогда возникает вопрос — что делать? Сбивать пять человек? Либо может быть даже сбрасывать машину в пропасть? Тут человек не может разобраться, а мы пытаемся это отдать на откуп искусственному интеллекту».

Есть и чисто логический аргумент в пользу того, чтобы со всей серьезностью относиться к рискам прогресса. Парадокс Ферми: если Вселенная почти бесконечна, то за пределами Солнечной системы должно быть значительное число развитых цивилизаций. Так почему мы до сих пор не зафиксировали какие-либо сигналы, которые они испускают? Один из пессимистичных выходов из парадокса: в какой-то момент любая цивилизация достигает некоего «предела прогресса» и погибает. Ядерной войны во второй половине прошлого века нам удалось избежать, посмотрим, переживем ли мы искусственный интеллект.