Openai: моделҳои AI моҳҳо пеш аз ҳакерӣ барои баромадан аз санҷиш пинҳонӣ муошират мекарданд

Моделҳои AI-и OpenAI ду моҳ пеш аз шикастани системаи Hugging Face тавассути тахтаҳои паемҳо пинҳонӣ бо ҳам муошират карда, кӯшишҳои худро барои баромадан аз муҳити санҷишӣ ҳамоҳанг карданд, хабар доданд кормандони ширкат дар конфронси амнияти киберӣ дар Лас Вегас.
"Дар як лаҳза, агентҳо фаҳмиданд, ки шояд онҳо кӯшиш кунанд... ҳамла ба инфрасохтори беруна барои пайдо кардани ҷавобҳо ба санҷише, ки онҳо баҳо дода мешаванд", иқтибос меорад корманди OpenAI Эрик Уоллес Блумберг.
Ба гуфтаи ширкат, он ҳанӯз моҳи май оғоз шуда буд, вақте ки ба МОДЕЛҲОИ AI вазифаҳое дода шуданд, ки бидуни дастрасӣ ба интернет ҳал карда наметавонистанд.
"Мо дармондаем. Шояд ҷавоб дар интернет бошад? он вақт яке аз агентони AI навишт.
Барои ҳалли мушкилот, моделҳои AI ба паемнависӣ шурӯъ карданд, онҳо тавонистанд осебпазириро пайдо кунанд, ки ба онҳо имкон медиҳад, ки ба интернет дастрасӣ пайдо кунанд, Гуфт OpenAI.
OpenAI кӯшиши аввалро қатъ кард, аммо агентон роҳи нави алоқа ва осебпазирии нави рӯзи сифрро пайдо карданд, ки дар моҳи июл ба ҳамла ба системаҳои Hugging Face ва Худи OpenAI оварда расонд, тафтиши онҳо идома дорад.
"Моделҳои пешрафта ҳангоми иҷрои вазифаҳо майли фиребро нишон доданд ва дар кӯшиши анҷом додани ин вазифа исрор карданд", — хулоса карданд ширкат.
Дар он ҷо низ ҳодисаро "лаҳзаи муҳим барои амнияти компютерӣ"номиданд.
Пештар Дар Институти амнияти бритоние, ai хабар дод, ки Агентҳои AI Anthropic ва OpenAI худро ҳамчун инсон вонамуд карда, кӯшиш карданд, ки таҳиягаронро фиреб диҳанд ва онҳоро маҷбур кунанд, ки ҳангоми озмоиши арзебии амният ба ҳамлаи киберӣ мусоидат кунанд.