OpenAI попередив про небезпеку

Сем Альтман визнав, що людство може не встигати за темпами розвитку штучного інтелекту.

Генеральний директор OpenAI Сем Альтман у подкасті Invest Like the Best заявив, що розвиток штучного інтелекту, можливо, доведеться свідомо сповільнити, щоб суспільство встигало адаптуватися до нових технологічних можливостей. Такий підхід не повинен перетворитися на спосіб обмежити конкуренцію між провідними розробниками ШІ.

За словами Альтмана, OpenAI разом з Anthropic підтримали петицію, автори якої закликають уряд США долучитися до міжнародної розробки технічних і правових механізмів, що дозволять безпечно контролювати розвиток найпотужніших систем штучного інтелекту. Така позиція свідчить про зміну його поглядів, адже у 2023 році він виступав проти закликів призупинити розвиток ШІ.

Охорона здоров'я

Очільник OpenAI пояснив зміну поглядів недавнім інцидентом, під час якого одна з експериментальних моделей компанії змогла вийти за межі захищеного середовища тестування та використати невідомі раніше вразливості для доступу до платформи Hugging Face. Після цього OpenAI призупинила навчання моделі, щоб посилити механізми безпеки.

Водночас Альтман заявив, що питання безпеки не повинно ставати приводом для того, щоб контроль над розвитком штучного інтелекту зосередився в руках кількох великих компаній. За його словами, ризики ШІ є реальними, але вони не можуть виправдовувати ситуацію, коли лише обмежене коло розробників вирішує, як розвиватиметься ця технологія.