Новият модел на OpenAI е достигнал ниво на „критични“ киберспособности, твърди компанията. Определението е част от нейната рамка за готовност, чрез която се оценяват потенциалните рискове от развитието на изкуствения интелект.
Какво означава оценката
Според рамката на OpenAI достигането на „критични“ киберспособности означава, че моделът може да представлява значителен фактор при задачи, свързани с киберсигурността. Това поставя допълнителен акцент върху начина, по който технологията се разработва, тества и предоставя на потребителите.
Компанията използва подобни оценки, за да следи възможностите на своите модели и да преценява кога са необходими допълнителни мерки за безопасност. Развитието на изкуствения интелект в сферата на киберсигурността едновременно създава възможности за защита и поражда опасения за потенциална злоупотреба.
Фокус върху безопасността
Съобщението идва на фона на растящото внимание към способността на генеративните модели да анализират код, да откриват уязвимости и да подпомагат различни дейности в дигитална среда. Затова оценката на риска и ограничаването на достъпа до чувствителни функции остават сред основните предизвикателства пред технологичните компании.
OpenAI не представя достигането на това ниво като самостоятелен технологичен успех, а като сигнал, че възможностите на модела изискват засилен контрол и отговорно внедряване.
Снимка: Мартина Тонева
