Новият модел на OpenAI е достигнал ниво, определено като „критични киберспособности“, съобщава компанията. Оценката е направена съгласно нейната рамка за готовност, която следи потенциалните рискове, свързани с развитието на изкуствения интелект.
Какво означава оценката
Според рамката на OpenAI определянето на даден модел като притежаващ критични киберспособности означава, че той може да представлява значителен риск в областта на киберсигурността. Тази оценка поставя нов акцент върху необходимостта от контрол върху използването на усъвършенствани модели.
Компанията не представя новината като доказателство за конкретна кибератака, а като резултат от вътрешна оценка на възможностите на системата. Подобни оценки имат за цел да покажат кога един модел достига ниво, при което потенциалната му употреба за злонамерени цели изисква допълнителни мерки.
Нарастващи опасения за сигурността
Развитието на генеративния изкуствен интелект разширява възможностите за автоматизация, но едновременно с това увеличава опасенията, че мощни модели могат да бъдат използвани за подготовка или подпомагане на сложни кибероперации.
Затова компаниите в сектора въвеждат процедури за тестване, наблюдение и ограничаване на достъпа до най-мощните версии на своите системи. Съобщението на OpenAI показва, че киберсигурността се превръща във все по-важен фактор при разработването и пускането на нови модели.
Снимка: Мартина Тонева
