Нобелевский лауреат Хинтон объявил о критической угрозе со стороны нейросетей

Британский и канадский ученый-программист, которого часто называют «крестным отцом» искусственного интеллекта, оценил вероятность того, что ИИ уничтожит человечество в ближайшие три десятилетия, от 10% до 20%. По его словам, темпы развития технологий «намного выше», чем ожидалось

«Крестный отец» нейросетей предупредил об угрозе истребления человечества. Джеффри Хинтон, британский и канадский ученый, лауреат Нобелевской премии по физике, заявил, что искусственный интеллект может привести планету к вымиранию. Об этом сообщает The Guardian.

Срок предполагаемой катастрофы — ближайшие 30 лет. Ее вероятность составляет 10-20%. «Нам никогда не приходилось иметь дело с чем-то более разумным, чем мы сами», — сказал Хинтон. По его словам, человеческое мышление в сравнении с машиной покажется младенческим. Ученый призвал к государственному регулированию искусственного интеллекта.

Это не первые предупреждения об опасности восстания машин в уходящем году. Папа Римский призвал развивать искусственный интеллект в соответствии с этическими нормами. Об этом Франциск говорил в обращении к участникам саммита G7 в июне 2024 года.

Смотрите также:

Как отличить настоящие швейцарские часы от подделки?

В какой стране запрещено жевать жвачку?

Где лучший кофе в мире?

Что общего между Гарри Поттером и покемонами?

Неожиданный сюрприз из «Киндера»

Штраф за яблоки и другие строгости для туристов

Насколько серьезна угроза нейросетей и как их регулируют в России и в мире, рассказал руководитель образовательной программы «Искусственный интеллект» НИЯУ МИФИ Роман Душкин.

Роман Душкин главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ «Под конец своей карьеры Джеффри Хинтон немножко стал говорить всякую ерунду. Джеффри Хинтон был одним из тех, кто стоял у истоков современного извода ИИ глубокого обучения. Конечно, не он один, хотя он один получил Нобелевскую премию за это. Искусственному интеллекту как области исследований уже 70 лет, и, соответственно, с тех времен все это постепенно нарабатывалось, внедрялось. Все это есть вокруг нас. В Европе все зарегулировано настолько, что там исследования вообще практически прекращены, в США регуляция примерно такая: делайте, что хотите, главное, чтобы национальные интересы Америки распространялись на весь мир. Там есть какие-то нормативные акты, ответственность, подотчетность, прозрачность и прочие лозунги. У китайцев тоже есть какая-то регуляторная база, но там все направлено на интересы КПК и Китая как государства. У России есть стратегия развития ИИ до 2030 года, она уже выпущена — это базовый документ, касающийся ИИ. Есть много дополнительных нормативных актов, а также есть образец мягкого регулирования — это кодекс этики в области ИИ, который не этика ИИ, а этика разработчика ИИ. И все-таки это даже не этика, а просто какие-то добровольно принимаемые на себя правила при разработке таких систем. А если говорить про нормативно-техническое регулирование, то есть это стандартизация, сертификация, обеспечение единства измерения метрологии, здесь у нас есть технический комитет Росстандарта, который так и называется «Искусственный интеллект», и он выпускает ГОСТы, которые направлены на обеспечение доверия к результатам работы модели ИИ».

Случаи конфликта между человеком и нейросетью уже были в 2024 году. В ноябре Gemini, чат-бот Google, назвал американского школьника «обузой для общества» и пожелал ему смерти. Пользователь хотел решить задачку по математике.