Новият модел на OpenAI е достигнал ниво, определено като „критични“ кибер способности, съобщава компанията. Оценката е направена според рамката ѝ за готовност, която се използва за проследяване на възможните рискове при разработването на изкуствен интелект.
Какво означава оценката
Според рамката за готовност определението „критични кибер способности“ показва, че моделът може да има значителен потенциал при изпълнението на задачи, свързани с киберсигурността. Това поставя нови изисквания към начина, по който подобни системи се тестват и предоставят на потребителите.
OpenAI не посочва в публикуваната информация всички технически подробности за възможностите на модела. Компанията обаче разглежда развитието на кибер способностите като област, която изисква допълнителни мерки за сигурност и контрол.
Рискове и контрол
Разширяването на възможностите на изкуствения интелект в киберсферата може да подпомага специалистите по сигурност, но същевременно поражда опасения за потенциална злоупотреба. Сред рисковете са автоматизирането на злонамерени действия и улесняването на атаки срещу цифрови системи.
Затова оценките по рамката за готовност са важна част от процеса преди пускането на нови модели. Те имат за цел да помогнат за определянето на подходящи ограничения и защитни механизми при използването на технологията.
Снимка: Мартина Тонева
