Більше ніж 850 публічних осіб, серед яких співзасновник Apple Стів Возняк та засновник Virgin Group Річард Бренсон, підписали заяву з вимогою призупинити розробку "суперінтелекту" — форми ШІ, яка перевершує людину у більшості когнітивних завдань, повідомляє CNBC.

Серед підписантів також відомі піонери ШІ, такі як Йошуа Бенжіо та Джефрі Хінтон, яких називають "хрещеними батьками" сучасного штучного інтелекту. Підтримали ініціативу й провідні дослідники, зокрема Стюарт Рассел з UC Berkeley.

Термін "суперінтелект" став популярним, бо компанії від xAI Ілона Маска до OpenAI Сема Альтмана змагаються у створенні потужніших великих мовних моделей. Навіть Meta назвала свій підрозділ LLM "Meta Superintelligence Labs".

Підписанти попереджають про серйозні ризики: від економічного та соціального відчуження людей, втрати свободи та громадянських прав до загроз національній безпеці й потенційного зникнення людства. У документі пропонується заборона на розвиток суперінтелекту до моменту наявності широкої наукової згоди та суспільної підтримки щодо безпечного контролю технології.

Серед підписантів – академіки, медійні особи, релігійні лідери та колишні політики США, зокрема колишній голова Об'єднаного комітету начальників штабів Майк Маллєн і колишня радниця з національної безпеки Сюзан Райс. Також заяву підписали принц Гаррі та Меган Маркл і колишня президентка Ірландії Мері Робінсон.

Комп'ютерний вчений Йошуа Бенжіо зазначив, що ШІ може перевершити більшість людей у когнітивних завданнях уже за кілька років. Він підкреслив, що хоча такі технології можуть допомогти розв'язувати глобальні проблеми, вони несуть серйозні ризики.

"Щоб безпечно рухатися до суперінтелекту, потрібно створити системи ШІ, які не здатні шкодити людям, і дати громадськості більший вплив на рішення, що формують наше майбутнє", — заявив він.