3SELLER Journal 3SELLER →

Прокси-дискриминация в ИИ: почему за разряженный телефон вы платите на 38% больше

21.11.2026

Два человека открывают одно и то же приложение в одном районе города. Один видит цену 340 рублей за поездку, второй - 470. Машины одинаковые, маршрут тот же, пробки те же. Разница не в тарифе и не в ошибке приложения: алгоритм решил, что второй пользователь готов заплатить больше, и назвал ему другую цифру.

Так выглядит прокси-дискриминация на практике. Никто не спрашивал у второго пассажира доход, возраст или кредитную историю. Модель собрала косвенные признаки из цифрового следа и по ним сделала вывод, кто перед ней. Прямо трогать «запрещённые» характеристики алгоритму не нужно - он находит обходной путь. В машинном обучении такой обходной путь называют прокси.

Прокси-дискриминация в контексте ИИ простыми словами

Прокси-дискриминацией в контексте ИИ называют ситуацию, когда система ставит человека в невыгодное положение не по прямому признаку, а по косвенному маркеру, который коррелирует с защищённой характеристикой. Закон запрещает учитывать расу, пол, национальность, доход. Алгоритм учитывает почтовый индекс, историю покупок, модель телефона и время заказа. Каждый признак в отдельности выглядит нейтрально. В сумме они рисуют портрет, который юридически трогать нельзя.

Классический пример из США: модель кредитного скоринга не спрашивает расу, но учитывает ZIP-код. Жилищная сегрегация в Америке пережила антидискриминационные законы, поэтому адрес часто предсказывает расу точнее, чем фотография. Формально модель «не знает» о расе. Фактически она восстановила запрещённый признак из окружающих данных. Прокси сработал как дублёр переменной, которую убрали из выборки.

Откуда взялся термин: две истории, которые всё объясняют

Первая - Target, 2012 год. Аналитик сети Эндрю Пол построил модель, которая по покупкам предсказывала беременность клиентки: неароматизированный лосьон, витамины, ватные диски определённой марки. Отец подростка пришёл в магазин в Миннесоте разбираться с купонами «для будущих мам», которые прилетели его дочери. Через несколько дней он извинился: дочь действительно была беременна, о чём семья ещё не знала. Модель восстановила защищённое состояние здоровья из абсолютно безобидной потребительской корзины.

Вторая история - COMPAS, 2016 год. ProPublica разобрала алгоритм оценки риска рецидива, которым пользовались суды США. Вывод расследования: формально модель не учитывала расу, но системно завышала риск для чернокожих подсудимых через косвенные признаки - аресты за мелкие правонарушения, район проживания, история адресов. После той публикации словосочетание «прокси-дискриминация» прочно вошло в словарь машинного обучения и права.

К 2019 году тема добралась до финансов. Apple Card дала Дэвиду Хайнемайеру Ханссону кредитный лимит в 20 раз выше, чем его жене, при общей налоговой декларации и общей собственности. Пара подала жалобу, подключился регулятор Нью-Йорка. Гендер в скоринге напрямую не участвовал - участвовали всё те же прокси.

Почему модель обходит прямой запрет

Причина лежит в механике машинного обучения. Модель оптимизирует метрику: точность прогноза, конверсию, выручку. Правило «не дискриминировать» в эту метрику не встроено. Если убрать запрещённый атрибут из выборки, его тень остаётся в сотнях других столбцов. Возраст прячется в наборе установленных приложений, доход - в модели телефона, семейное положение - даже в часе заказа. Градиентный бустинг или нейросеть находят эту тень автоматически, потому что она повышает точность прогноза.

Инженеры называют явление утечкой защищённого признака. Исследователи fairness-направления проверяют его напрямую. В контролируемой симуляции они меняют скрытый защищённый атрибут, а атрибутам-прокси оставляют свободу - и смотрят, как решение модели следует за этими изменениями. Результат стабильно неутешительный: убрав признак из поля зрения, вы не убрали его из логики модели.

Цены под каждого: дискриминация как услуга

Самая заметная сегодня форма прокси-дискриминации - предиктивная персонализация цен. Маркетплейсы, агрегаторы такси и сервисы бронирования ушли от статичного прайса к ценам в реальном времени. ИИ собирает цифровые следы пользователя и оценивает главный параметр - готовность платить.

Российские исследователи в журнале «Пролог» описали механику жёстко. Предиктивная персонализация превращает дискриминацию в товар - «услугу», которую технологический гигант продаёт сам себе или своим партнёрам в виде монопольной ренты. Звучит цинично, но экономика простая. Чувствительность к цене у всех разная. Раздели пользователей на сегменты, покажи каждому «его» цену - и суммарная выручка растёт. Тот, кто поленится сравнить предложения, заплатит максимум.

Разница при этом не обоснована ничем, кроме прогноза поведения. Ни себестоимостью, ни сезонностью, ни оптовой скидкой. Только ставкой на то, что конкретный человек не уйдёт искать дешевле.

Что алгоритм видит в ваших цифровых следах

Набор сигналов, по которым модель оценивает готовность платить, шире, чем кажется. В юридическом разборе предиктивной персонализации перечислены следующие цифровые следы:

Про уровень заряда батареи скажу отдельно, потому что многие списывают это на городскую легенду. Сигнал реален: часть метрик отдаётся через браузерные API, а телеметрия приложений давно крутится в рекламных аукционах. Голландский регулятор ACM в 2024 году подтвердил: ряд сервисов бронирования выдавал разные цены в зависимости от характеристик устройства и поведения на сайте. В том числе от марки телефона. Формально ни один из этих признаков законом не защищён. По сути перед нами дискриминация по кошельку, проведённая через технические параметры.

Где прокси-дискриминация уже норма

Кейсы накапливаются больше десяти лет. Staples в 2012-м показывала на сайте разные цены жителям разных районов: рядом с магазином конкурента скидка была выше. Формально учитывалась геолокация, фактически - платёжеспособность квартала.

Туристические сервисы ловили на том, что владельцам Mac показывают более дорогие отели: дорогое устройство как маркер состоятельности. Amazon в 2018-м закрыла внутренний инструмент найма после того, как выяснилось, что он занижает оценки резюме с упоминанием женских колледжей и слова «women's». Модель обучалась на десятилетиях мужских резюме и выучила пол через прокси-слова в тексте. Разработчики не закладывали дискриминацию - она выросла из данных сама.

Страхование и кредит - самые закрытые, но самые показательные отрасли. Скоринг по альтернативным данным: пополнения телефона, подписки, паттерны транзакций, модели устройств в семье. Каждая переменная нейтральна, и каждая - потенциальный прокси дохода, возраста или района. Отказ в кредите выглядит сухой цифрой рейтинга, а за ней стоит модель, восстановившая ваши защищённые характеристики из обходных данных.

Где проходит граница: сегментация или дискриминация

Не всякая разница в цене - дискриминация. Скидка студентам, оптовая цена, ночной тариф на электричество - экономически обоснованные различия: у продавца есть причина, не зависящая от личности покупателя. Юридический тест формулируется просто. Разница объясняется объективной экономией издержек или сезонностью - допустимо. Единственное объяснение - «готовность покупателя» - уже красная зона.

Персонализированные цены проваливают этот тест намеренно. Их единственная цель - забрать у каждого сегмента максимум потребительского излишка. Никакой экономии издержек за этим не стоит, и именно поэтому юридическая квалификация таких практик становится спорной даже там, где формальный запрет на дискриминацию написан размыто.

Что говорит закон

База есть. В России п. 6 ч. 1 ст. 10 Закона о защите конкуренции запрещает монополисту устанавливать дискриминационные условия. В ЕС ту же роль играет ст. 102 Договора о функционировании Евросоюза. Ст. 22 GDPR даёт право не быть объектом решения, основанного исключительно на автоматизированной обработке и имеющего юридические последствия. В России похожие механизмы даёт 152-ФЗ плюс общие нормы о кабальных сделках, хотя до специализированного регулирования здесь далеко.

Проблема не в отсутствии норм, а в доказуемости. Авторы разбора предиктивной персонализации в «Прологе» ставят вопрос ребром: платформа, назначающая цену по готовности платить, нарушает не только формальный запрет дискриминации, но и принцип экономической обоснованности различий. Для классического антимонопольного анализа такая территория неизведанна: доказательства лежат в весах нейросети, а не в прайс-листе, который можно приложить к делу.

Отсюда выросла концепция алгоритмической недискриминации: принцип, по которому различия, созданные алгоритмом без экономического обоснования, признаются дискриминационными независимо от набора формально использованных признаков. Для работоспособности принципа нужны прямые полномочия ФАС на экспертизу алгоритмов. Сейчас антимонопольная служба не может вскрыть модель и показать, где в логике прячется дискриминация. Инструментарий придётся достраивать, иначе статьи закона останутся декорацией.

Почему поймать алгоритм за руку почти невозможно

Первая причина: цена эфемерна. Вы видите свою цифру и только свою. Чтобы доказать дискриминацию, нужны синхронные замеры с разных аккаунтов, устройств и локаций. Без них платформа ответит, что цена менялась из-за динамического спроса, и формально будет права.

Вторая причина: дискриминация спрятана в корреляциях, а не в правилах. Ни один разработчик не писал код «показывать владельцам Android дорогие отели». Связь выучена из миллионов наблюдений, и спросить у модели, почему она так решила, нельзя - объяснимость до сих пор остаётся слабым местом глубоких моделей.

Сложнее всего с A/B-тестированием: оно выглядит легитимно. Платформа честно скажет, что тестирует цены, как тестирует любую функцию. Граница между экспериментом и прокси-дискриминацией проходит там, где тест фиксируется по готовности платить. Снаружи эту границу не видно.

Большие языковые модели не свободны от прокси

LLM, не обученные на ваших транзакциях, кажутся вне игры. Свежая работа на alphaxiv доказывает обратное: большие языковые модели опираются на прокси в решениях. В контролируемой симуляции исследователи меняли скрытый защищённый атрибут и наблюдали, как решение модели тянется за атрибутами-прокси. Модель восстанавливала «запрещённый» признак из разрешённых косвенных сигналов, хотя её об этом никто не просил.

Для практика вывод конкретный. LLM, встроенная в HR-фильтр, скоринг резюме или модерацию контента, воспроизводит ту же прокси-логику, что и классические ML-модели. Только в мягкой и потому менее заметной форме. Проверять нужно руками - на парных кейсах, где меняется один косвенный признак и фиксируется сдвиг в ответе.

Хотите проверить модели сами - начните с доступа

Такие тесты я провожу регулярно: подаю модели пары почти идентичных кейсов, меняю один косвенный признак и смотрю, как меняется ответ. Для подобной работы нужен доступ к нормальным флагманским моделям, а не к урезанным версиям через VPN с постоянно отваливающимися картами.

Работаю через 3GPT от 3SELLER. Сервис даёт прямой доступ из России к последним флагманским моделям за 149 рублей: Chat GPT 6 Astra, Claude Fable 5, Claude Fable 5.1, Claude Opus 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, Nano Banana для генерации изображений, плюс генерация видео. Пополнение российской картой, через СБП или криптой. Доступ ко всем флагманским моделям из России - на официальном сайте 3GPT.

Интерфейс 3GPT - доступ к флагманским нейросетям из России

В повседневных задачах по бизнесу и работе выручает одно окно на все модели: продающие тексты, сайты, обработка и создание максимально реалистичных изображений, видеоролики, генерация голоса. Модель переключается прямо в чате, без пересадок между сервисами.

Отдельная фишка - готовые ИИ агенты 3GPT под задачи. Выбираете агента и сразу общаетесь; модель агента меняется прямо в чате. Для прокси-тестов удобно: один и тот же агент, одинаковые промпты, разные модели - и разница в поведении видна за минуты.

Готовые ИИ агенты 3GPT для бизнес-задач

Для картинок есть отдельная линейка инструментов - реалистичная фотографика через лучшие ИИ генераторы изображений. Примеры того, что выдаёт связка на флагманских моделях, ниже.

Пример реалистичного изображения, сгенерированного в 3GPT

Ещё пример генерации изображений в 3GPT

Как защититься: рабочие приёмы

Полной защиты не существует, но снизить точность прогноза о себе реально. Работает комбинация:

Суть всех приёмов одна - ломать асимметрию информации. Платформа выигрывает, пока вы видите только свою цену и торопитесь. Любой независимый замер с другого аккаунта, устройства или города рушит главную предпосылку персонализации: уверенность модели, что вы не проверите.

Прокси-дискриминация - не баг, а бизнес-модель

Персонализированное ценообразование встроено в экономику платформ. Каждая площадка с достаточным объёмом данных рано или поздно приходит к нему, потому что оно зарабатывает просто и без накладных расходов. Регуляторы догоняют медленно: нормы существуют, инструмента вскрытия алгоритмов нет, а бремя доказывания лежит на той стороне, у которой меньше ресурсов.

Пока закон отстаёт от технологии, защита держится на двух вещах: гигиена собственных данных и привычка перепроверять. А если вы строите продукты на LLM, закладывайте аудит на прокси-признаки до релиза, а не после жалобы. Проверить модель на тестовой выборке стоит часы. Объяснять регулятору, почему алгоритм «сам догадался» о том, о чём его не спрашивали, стоит сильно дороже. Начните с одного теста прямо сейчас: подайте модели два почти одинаковых резюме, отличающихся только названием женского колледжа. Если оценки разойдутся - вы поймали прокси вживую.

← Вернуться к блогу

Читать дальше