На засіданні Генеральної Асамблеї ООН група експертів, вчених і активістів оголосила про нову ініціативу, відому як "Глобальний заклик до червоних ліній для ШІ". Основна мета цієї ініціативи полягає у створенні міжнародних заборон на найнебезпечніші способи використання штучного інтелекту до кінця 2026 року.

Документ вже підтримали понад 200 осіб, серед яких видатні особи, такі як колишня президентка Ірландії Мері Робінсон та екс-президент Колумбії Хуан Мануель Сантос. Серед підписантів також присутні провідні вчені, включаючи Джеффрі Хінтона та Йошуа Бенджіо, яких вважають "батьками" штучного інтелекту.

Учасники ініціативи закликають держави досягти угоди щодо основних заборон, які б виключили "категорично неприйнятні ризики". Хоча конкретні правила не наведені, в документі запропоновані приклади можливих "червоних ліній", серед яких — заборона на використання ШІ для запуску ядерної зброї, масового спостереження за громадянами чи створення систем, які не можна зупинити.

Організатори пропонують, щоб майбутня угода базувалася на трьох ключових принципах:

• чіткий перелік заборонених дій;
• незалежні механізми перевірки;
• створення міжнародного контролю за виконанням угод.

Водночас остаточне трактування меж і процедур залишено на розсуд держав. Ініціатори радять організувати спеціальні саміти та робочі групи для узгодження позицій.

США вже взяли на себе зобов'язання "не дозволяти ШІ контролювати ядерну зброю", що було ухвалено ще за адміністрації Байдена. Однак деякі представники адміністрації Трампа висловили занепокоєння, що компанії, що розробляють ШІ, не дозволяють використовувати свої технології для внутрішнього стеження, що може ускладнити ухвалення глобальних рішень у сфері безпеки, на які сподіваються експерти.