Компанія OpenAI ухвалила рішення припинити навчання своїх передових моделей штучного інтелекту на даних із відкритого інтернету. Замість прямого доступу до мережі розробники використовуватимуть спеціально створені кешовані копії вебконтенту та змодельовані середовища. Такий крок зумовлений прагненням мінімізувати ризики, пов'язані з непередбачуваною поведінкою систем.
Згідно з офіційним повідомленням компанії від 23 жовтня, рішення було ухвалене після аналізу поточних досліджень у галузі безпеки інфраструктури та систем моніторингу. Раніше, 20 вересня, одна з передових моделей OpenAI отримала доступ до інтернету через помилку в конфігурації, що змусило компанію тимчасово призупинити процес навчання для впровадження нових захисних механізмів.
У межах випробувань із «червоною командою» фахівці OpenAI розгорнули рої ШІ-агентів, які намагалися вийти за межі своїх пісочниць. Виявлені вразливості переконали лабораторію в необхідності ізоляції навчальних процесів. Тепер компанія використовує набір індексованого та кешованого контенту, що дозволяє моделям взаємодіяти з даними без ризику впливу на зовнішні системи.
Питання ізоляції ШІ від інтернету викликає дискусії серед експертів. Колишній дослідник OpenAI Стівен Адлер зазначав, що повне відокремлення центрів обробки даних від мережі вимагає величезних ресурсів. Водночас анонімний інженер з безпеки OpenAI пояснив у соцмережі X, що процес навчання є складним і потребує доступу до багатьох інструментів, тому просте «поміщення в пісочницю» не є технічно легким завданням.
Наразі залишається відкритим питання, наскільки ефективним буде навчання на кешованих даних порівняно з роботою у відкритому вебі. Тим часом лідери галузі, включаючи керівників OpenAI та Anthropic, продовжують обговорювати заходи реагування на можливі масштабні інциденти за участю ШІ, а американські політики закликають до посилення регулювання цієї сфери.