OpenAI намагається перевершити Anthropic новими захистами приватності клієнтів

Оскільки AI-моделі стають потужнішими, зростає і потенціал їхнього зловживання — а разом із ним і попит на захисні запобіжники, здатні зупинити такі зловживання. AI-компанії тепер змушені балансувати між повагою до приватності корпоративних клієнтів та моніторингом використання на предмет можливих проблем.

Відчувши нагоду перевершити свого конкурента Anthropic, OpenAI щойно анонсувала підхід до безпеки, орієнтований на приватність. Компанія тестує серед окремих клієнтів новий сервіс під назвою Private Safety Processing. Це автоматизована система, яка відстежує потенційні зловживання, при цьому не зберігаючи жодних даних клієнта.

Ця система явно суперечить нещодавно оголошеній політиці зберігання даних Anthropic. Політика, яка викликала невдоволення деяких клієнтів, дозволяє AI-лабораторії утримувати дані користувачів (всі їхні сесії та розмови) протягом 30 днів для так званих "covered models". До цих моделей належать усі моделі класу Mythos та "майбутні моделі з подібними можливостями".

Цю політику, оголошену в липні 2026 року, було розроблено з метою безпеки — щоб лабораторія могла аналізувати потенційні порушення. Однак вона глибоко стурбувала підприємства, які працюють із великими обсягами чутливих даних і не бажають, щоб ці дані зберігалися чи перевірялися AI-лабораторією.

OpenAI, як і більшість інших AI-компаній, уже забезпечує клієнтам відносний рівень приватності, дотримуючись політики Zero Data Retention (ZDR). ZDR використовує агенти в OpenAI API для моніторингу зловживань у межах окремої сесії. Таким чином, дані клієнтів не зберігаються, але компанії можуть сканувати підозрілу активність без участі людини. Варто зазначити, що Anthropic також переважно дотримується ZDR — за винятком "covered models", як-от Fable.

OpenAI заявляє, що Private Safety Processing — це нова технологія, яка розширює сферу дії ZDR. Вона описується як довгостроковий моніторинг безпеки, що оцінює вхідні та вихідні дані кількох розмов, а не однієї. Моніторинг здійснюється агентом, який у разі спрацювання аналізує взаємодії між сесіями на предмет ознак потенційного зловживання.

Нова технологія допомагає OpenAI виявляти зловмисне використання AI, яке відбувається протягом кількох сесій. Зловмисник, наприклад той, хто намагається створити шкідливе ПЗ для кібератаки, може розподіляти свої запити в часі, щоб уникнути виявлення. Private Safety Processing аналізує ці кілька розмов на предмет зловживань без людського перегляду.

Якщо система спрацьовує, вона може надіслати "вузько визначений сигнал" до OpenAI, який попереджає про конкретний тип активності. На основі цього сигналу OpenAI вирішує, чи потрібне "втручання". Якщо так, компанія зв'язується з клієнтом для отримання додаткового контексту або спільної роботи над проблемою; клієнт може на власний розсуд поділитися даними з OpenAI.

Для порівняння: Anthropic зазначає, що людський перегляд даних клієнтів можливий, але лише "через контрольований шлях доступу" за участю "невеликої групи схвалених рецензентів". Кожна така сесія "записується в захищений від підробки журнал, який рецензенти не можуть приховати чи змінити".

Корпоративна конкуренція між OpenAI та Anthropic нині напружена: обидві компанії шукають будь-яку нагоду отримати перевагу. Згідно з нещодавнім звітом, Q2 OpenAI зростав повільніше, ніж Anthropic. Річний обсяг доходів Anthropic зараз оцінюється у $65 млрд. Інвестори Anthropic припускають, що компанія може вийти на IPO з оцінкою $2 трлн, тоді як OpenAI також працює над своїм IPO.

Джерело