Новият модел на OpenAI е достигнал ниво на „критични“ киберспособности, съобщава компанията. Определението е част от нейната рамка за готовност, която оценява потенциалните рискове при разработването и използването на изкуствен интелект.
Какво означава оценката
Според рамката на OpenAI достигането на „критични“ киберспособности означава, че моделът може да подпомага извършването на сложни действия в киберпространството. Това поставя технологията в по-висока рискова категория и изисква допълнителни мерки за сигурност.
Компанията не представя твърдението като доказателство, че моделът самостоятелно може да извършва кибератаки. Оценката по-скоро показва, че системата разполага с възможности, които биха могли да бъдат използвани за автоматизиране или ускоряване на определени кибероперации.
Фокус върху контрола и сигурността
Подобни оценки са част от усилията на технологичните компании да проследяват развитието на моделите си и да ограничават злоупотребите с тях. При системи с по-напреднали способности се прилагат по-строги тестове, ограничения за достъпа и механизми за наблюдение.
Темата за киберсигурността се очертава като един от най-чувствителните въпроси около развитието на генеративния изкуствен интелект. По-мощните модели могат да бъдат полезни за откриване на уязвимости и защита на мрежи, но същевременно могат да създадат нови рискове, ако бъдат използвани от злонамерени лица.
OpenAI посочва, че ще продължи да оценява възможностите на модела и да актуализира мерките за безопасност в зависимост от резултатите.
Снимка: Мартина Тонева
