Авторы письма призвали разработчиков искусственного интеллекта немедленно приостановить минимум на полгода обучение систем более мощных, чем GPT-4 от компании OpenAI. Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. По их мнению, если обучение не получится остановить быстро, то власти „должны вмешаться и ввести мораторий“.

Авторы письма считают, что даже создатели „мощных цифровых разумов“ не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком.

„Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?“ — говорится в письме.

Как отмечает Reuters, исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо.

Читайте RusDelfi там, где вам удобно. Подписывайтесь на нас в Facebook, Telegram, Instagram или TikTok.

Поделиться
Комментарии