Его авторы видят угрозу в ИИ, который сопоставим с интеллектом человека. Это создает серьезные риски для всего человечества. Системы мощнее GPT-4 должны быть обеспечены надежными протоколами безопасности, находящимися под контролем независимых экспертов.
Исследования, проведенные в 2017 году, показали, что продвинутый уровень искусственного интеллекта может внести серьезные изменения в жизнь на Земле. В связи с этим подобные системы должны находиться под жестким контролем. В настоящее время его не существует. Авторы письма отметили, что лаборатории, занимающиеся ИИ, соревнуются между собой в создании более мощных систем, не думая о последствиях для всего человечества.
Ранее Илон Маск предупредил американцев о новых серьезных проблемах, которые в скором времени появятся в США.