Билл Гейтс и принц Гарри подписали обращение о запрете разработки «сверхумного ИИ»
Более 800 самых влиятельных людей мира требуют остановить разработку «сверхразумного ИИ».
Среди подписавшихся — основатель Microsoft, принц Гарри, советник Папы Римского, рэпер Will.i.am, а также около тысячи ученых, политиков и бизнесменов. Альянс имеет радикальную позицию: никакого «суперинтеллекта», пока ученые не решат вопрос безопасности, а общество не выразит свое согласие через голосование.
Эта инициатива исходит от Future of Life Institute — те же, кто в 2023 году призывал остановить разработку моделей, более мощных, чем GPT-4. Тогда это не получилось: летом появилась GPT-5. Теперь ставки выше — речь идет о системах, способных превзойти лучших специалистов человечества.
А вот кто не присоединился: Сэм Альтман из OpenAI, Илон Маск, руководители Anthropic и DeepMind. Хотя Маск раньше и сам поддерживал «паузу» в ИИ-гонке, но после появления собственного мощного ИИ, похоже, передумал.
Билл Гейтс и принц Гарри подписали обращение о запрете разработки «сверхумного ИИ»