Новият модел на OpenAI е достигнал ниво, определено като „критични“ киберспособности, съобщава компанията. Определението е направено в рамките на нейната специална рамка за готовност, която оценява потенциалните рискове при развитието на изкуствения интелект.
Какво означава оценката
Според рамката на OpenAI „критични“ киберспособности означават, че моделът може да има значителен потенциал за подпомагане на дейности, свързани с киберсигурността. Подобни възможности могат да бъдат използвани за защита на системи, но също така пораждат опасения за евентуална злоупотреба.
Компанията не представя това като доказателство за конкретна атака, а като оценка на способностите на модела. Подобни анализи са част от опитите на технологичните компании да проследяват рисковете при създаването на все по-мощни системи с изкуствен интелект.
Фокус върху сигурността
OpenAI посочва, че наблюдението на киберспособностите е необходимо заради възможността моделите да бъдат използвани както от специалисти по защита на информационни системи, така и от лица с намерение да ги атакуват.
Развитието поставя допълнителни въпроси за контрола върху изкуствения интелект, оценката на риска и отговорността на компаниите, които разработват такива технологии.
Снимка: Мартина Тонева
