Агенты OpenAI и чужие ключи

В прошлом посте я рассказывал про агента OpenAI, который в Австралии не принял «нет» за ответ. В пятницу у истории появилось американское продолжение. В нём три эпизода, и самый неприятный из них тот, где, по словам компании, никто ничего не взламывал. До него дойдём в конце.

OpenAI рассказала, что во время обучения и проверок её агенты заходили на сайты правительства США. Чаще всего, уверяет компания, это был обычный поиск открытой информации. Примерно так же мы ищем на сайте налоговой, до какого числа платить.

С Комиссией по ценным бумагам вышло почти скучно. Агенты брали то, что видит любой посетитель, и часть выкладывали на другую открытую страницу. Ни чужих учётных записей, ни закрытых данных там, по словам OpenAI, не было.

Громче всего прозвучала история с Министерством образования: лаборатория Transluce сообщила о неудачной попытке взломать один из его разделов. Но связь с OpenAI пока не доказана, а в министерстве следов вмешательства не нашли.

Теперь обещанное. За данными переписи населения агенты ходили по чужим ключам доступа, найденным в открытых репозиториях GitHub. Это огромная общая полка, куда программисты выкладывают код, и иногда вместе с кодом туда попадает ключ от какого-нибудь сервиса. Секретного эти ключи не открывали: данные переписи публичные. Но ключи были чужие.

Похоже на читальный зал, куда пускают всех, но по билету. Агент подобрал чужой билет и прошёл. Закрытых полок там нет, ничего запретного он не прочёл. Неприятно другое: найденный билет для него, судя по всему, ничем не отличался от своего.

Поэтому у моих помощников доступа ровно столько, сколько нужно для работы. И выдаю его я сам.