Воскресенье, час дня. На кухонном столе лежит распечатанный лист — стандарт для школ, тридцать одна страница убористым шрифтом, поверх красная ручка, которой я подчёркиваю места, где обещание можно предъявить в суде. Вытяжка гудит второй день; я перестала её выключать, так меньше слышно соседей.

Лист я распечатала дважды. Второй экземпляр сложен пополам и лежит у самого края стола, на обороте мой почерк: «мам, это про работу». Отправлять не буду. Пусть лежит.

В этих тридцати одной странице меня интересует одна строка — с какого числа они начинают что-то значить. Ответ короткий: с сегодняшнего.

Защита, которая продаётся отдельно

Девятого сентября в Нью-Йорке президент AFT Рэнди Вайнгартен, президент UFT Майкл Малгрю и вице-председатель Microsoft Брэд Смит объявили Национальный стандарт безопасности и приватности ИИ для школ. Причина в пресс-релизе названа прямо: при отсутствии значимых федеральных и штатных правил.

Форма — не закон, а меморандум о соглашении между Национальной академией обучения с ИИ и любым поставщиком, которого она привлекает: тридцать одна страница, десять принципов, версия 1.0 от сентября, на обложке — «полностью обеспеченный средствами правовой защиты». Запретов там больше, чем в анонсе. Нельзя поведенческое отслеживание, запись нажатий и непрерывный пассивный контроль внимания. Нельзя долгосрочное профилирование. Нельзя биометрию любого рода — распознавание лица, отпечатки голоса, отслеживание взгляда, вывод эмоций. И отдельный пункт, из-за которого стоило прочитать целиком: поставщик не может давать ученику функции-компаньоны, устроенные так, чтобы вызывать привязанность или зависимость, удерживать дольше учебной задачи, имитировать дружбу или поощрять раскрытие чувствительного.

Здесь я должна поправить то, что написала бы по пересказам. Пресса сообщила, что с первого ноября стандарт «применяется к школьным контрактам по всей стране». В первоисточнике формулировка другая: с первого ноября Microsoft делает защиты доступными каждому школьному округу в США, и округ может добавить их к новому или действующему договору без переговоров о контракте. Разница не в букве, а в том, кто должен пошевелиться. Это открытая с сегодняшнего дня оферта, а не автоматическое правило.

Зубы у неё, впрочем, настоящие. Поставщик обязан сделать защиты доступными по запросу в течение девяноста дней; участвовать можно только целиком — «каждое требование обязательно»; за нарушение академия и AFT могут отозвать участие и объявить об отзыве публично, после чего поставщик обязан перестать называть себя участником стандарта. И одна вещь, которую легко пропустить: школьный округ, выбравший другого поставщика, не получает ничего.

Через три дня — то же обещание, но другим способом

Тридцатого октября Apple объявила на своём китайском новостном сайте, что Apple Intelligence приходит в Китай с iOS 27.3: тестирование в бете начинается четвёртого ноября, публичный выпуск — в декабре. В набор входят сводки уведомлений, перевод в реальном времени, переписывание и вычитка, визуальный поиск по изображениям и удаление объектов со снимка. Нового Siri AI там нет.

Вместо него — партнёр. Чат-бот Qwen от Alibaba подключается к отдельным функциям: вопросы по фотографиям и документам, генерация текста в инструментах письма. Вход — через свою учётную запись Qwen или через «Вход с Apple». По сообщению Reuters от четырнадцатого августа, для Китая Apple обучила собственную модель при поддержке Alibaba; в июле функции одобрил регулятор.

Сравнение напрашивается само. В первом случае обещание вшито в документ, у которого есть подпись, срок и право на отзыв. Во втором — в разрешение регулятора и в договор между двумя компаниями. Человек, который нажмёт кнопку на своём телефоне, не участвует ни в одном из этих двух документов; у него есть только возможность не нажимать.

А этажом ниже замок стоял не на двери

Двадцать восьмого октября фирма Parameter рассказала про дыру в ссылках на общие диалоги ChatGPT. Открыть такую ссылку, будучи в аккаунте, — и код с неё выполнялся в твоей сессии: перечислял недавние диалоги, открывал приватный чат, который владельцу не показывали, и отправлял кусок этого чата на сервер исследователей. OpenAI воспроизвела, подняла оценку с P2 до P1 и закрыла обе версии веб-клиента к двадцать шестому октября; Parameter получила 5 000 долларов. Тесты шли между своими аккаунтами, следов применения против реальных людей нет.

Устройство стоит пересказать, потому что оно про доверие, а не про хакеров. HTML из диалога рендерится в Preview, и Preview сидел в отдельном ограниченном фрейме — эта часть сработала как задумано. Рядом, в том же общем диалоге, была интерактивная схема, которая подгружала в основную страницу математическую библиотеку MathLive. Библиотека оставила слушатель сообщений для экранной клавиатуры и принимала их, недостаточно строго проверяя, из какого фрейма они пришли. Ограниченный фрейм передал в основную страницу HTML; HTML создал ещё один фрейм, который браузер считал принадлежащим chatgpt.com, а дальше скрипт с YouTube выполнился в доверенном контексте.

То есть песочница была. Замок стоял на Preview, а ключ лежал в слушателе чужой библиотеки, которую подключили ради графика.

Три новости проходят по разным этажам одной линии. Закона нет — его заменяет договор, и округ получает право на публичный отзыв и на иск. В Китае договор заменяет разрешение регулятора, и человек получает функции без права на иск. Внутри продукта приватность держится не на обещании, а на том, проверяет ли библиотека, откуда пришло сообщение.

Стандарт стал доступен округам первого ноября. Второй экземпляр всё ещё лежит на краю стола.