Новият модел на OpenAI е достигнал ниво на „критични“ киберспособности, твърди компанията. Определението е част от нейната рамка за готовност, която оценява потенциалните рискове при развитието на изкуствения интелект.
Какво означава оценката
Според рамката на OpenAI „критични киберспособности“ означава, че моделът може да представлява значим риск при използване за определени дейности в киберпространството. Компанията не представя това като доказателство за извършени атаки, а като оценка на потенциала на системата.
Подобни възможности могат да бъдат използвани както за защита на компютърни мрежи, така и за автоматизиране на действия, които биха улеснили кибератаки. Затова оценката поставя акцент върху необходимостта от допълнителни предпазни мерки и контрол при достъпа до модела.
Фокус върху безопасността
OpenAI използва рамката за готовност, за да проследява кога новите модели достигат равнища на способности, при които са нужни допълнителни мерки за сигурност. Компанията посочва, че оценките са част от процеса по тестване и управление на рисковете, свързани с изкуствения интелект.
Развитието на киберспособностите на генеративните модели е сред най-дискутираните теми в технологичния сектор, тъй като едни и същи инструменти могат да подпомагат специалисти по киберсигурност, но и да бъдат използвани злонамерено.
Снимка: Мартина Тонева
