Почему ученые боятся умных роботов

Более тысячи ученых, исследователей и технических экспертов подписали письмо против разработки искусственного интеллекта (AI) в военной области. Среди подписавших петицию физик-теоретик Стивен Хокинг, глава компании Tesla и основатель SpaceX Илон Маск, сооснователь Apple Стив Возняк, исполнительный директор Google DeepMind Демис Хассабис и лингвист Ноам Хомский.

Лучшие умы человечества выступили с призывом предотвратить гонку вооружений на основе искусственного интеллекта. Ученые предостерегают от создания автономного оружия, которое будет "неподконтрольно человеку". "Так же как большинство химиков и биологов не хотят участвовать в создании химического или биологического оружия, большинство исследователей в области AI не заинтересованы в том, чтобы разрабатывать на его основе оружие", – говорится в письме.

По их мнению, появление автономных вооружений станет третьим революционным открытием в военном деле после создания пороха и ядерного оружия. Авторы обращения отмечают, что технология искусственного интеллекта достигла той точки, когда развертывание автономных вооружений становится возможным уже в ближайшие годы, а не десятилетия. Но использование наступательных вооружений на основе искусственного интеллекта приведет к большим человеческим потерям, предупреждают ученые.

"Конечная точка траектории этой технологии очевидна: автономные вооружения станут автоматами Калашникова завтрашнего дня. Ключевой вопрос для человечества сегодня состоит в том, начинать ли глобальную гонку вооружений с искусственным интеллектом или предотвратить ее", – цитирует письмо ученых The Guardian.

Ученые требуют ввести запрет на соответствующие разработки. Как пишет "Би-би-си", "роботы-убийцы" уже стали предметом широкой общественной дискуссии и были вынесены на обсуждение комитетов ООН, которые рассматривают наложение запрета на определенные виды автономного вооружения.