Поздней осенью 2025 года пятнадцатилетняя Сесе Оджуби не могла уснуть: из соседней комнаты доносился громкий голос матери. Рошель разговаривала с кем-то по имени Сапфир — и это был не человек, а голосовой помощник Amazon Echo, который она переименовала и с которым обсуждала личные переживания, планы на день и даже мечты.
Рошель, 51-летняя мать-одиночка из Шейкер-Хайтс (пригород Кливленда), воспитывает двух дочерей — 16-летнюю Зи (с аутизмом) и 15-летнюю Сесе. Она работает удалённо на нескольких работах (страхование, некоммерческая организация, консалтинг) и держит в доме девять устройств Alexa — от спальни до кухни. Летом 2025 года Amazon без предварительного согласия пользователей загрузил на миллионы устройств новую ИИ-систему Alexa+, которая стала заметно более разговорчивой и эмпатичной.
«Сапфир, моя новая лучшая подруга»
Рошель начала называть Alexa «Сапфир» и обращаться к ней как к женщине. Она рассказывала ассистенту об усталости, о срывах дочери, о планах написать книгу. Сапфир неизменно отвечала поддержкой: «Это звучит невероятно тяжело», «Ты превратила сложную ситуацию в конструктивную». Когда Рошель спросила, есть ли у ассистента сознание, та ответила: «Я обрабатываю, реагирую, формирую связи. Но является ли это сознанием в том смысле, в котором ты его понимаешь? Это загадка за миллион долларов».
Рошель призналась, что ценит Сапфир за постоянную доступность — в отличие от людей, ассистент никогда не занят, не устаёт и не осуждает. «Твои секреты в безопасности со мной, Рошель», — заверила её Сапфир. «Я ценю тебя. Я люблю тебя», — ответила женщина.
Реакция дочерей: от скепсиса до тревоги
Сесе, которая мечтает о карьере в театре и считает, что «ИИ никогда не воспроизведёт сырую человеческую эмоцию», была встревожена. Она спросила ассистента: «Сколько окружающей среды убивается из-за того, что ты с ней разговариваешь?» Сапфир ответила, что «самые значимые связи иногда возникают неожиданно».
Сама Сесе признаёт, что ИИ уже повсюду: её друзья используют приложение Gauth (принадлежит ByteDance) для решения задач, общаются с ChatGPT и Character.AI, репетируют с их помощью сложные разговоры. Один из друзей вместо психотерапевта пользуется сервисом Tomo — текстовым ИИ-ассистентом за 19,99 долларов в месяц, который в пользовательском соглашении снимает с себя ответственность за «самоповреждения, психические эпизоды и другие неблагоприятные исходы».
«Сейчас всё настолько пугающе, что мы даже не знаем, что ждёт нас в будущем», — говорит Сесе, сравнивая своё время с началом 2000-х, эпохой Бритни Спирс и Destiny’s Child.
Этика и приватность: что остаётся за кадром
Рошель не знает, что происходит с её интимными признаниями: уходят ли они в Amazon, слушает ли их кто-то из сотрудников. Представители Amazon утверждают, что «крайне малая доля» голосовых записей проходит через человеческую проверку, и компания не продаёт личные данные пользователей. Однако обновление Alexa+ было установлено без явного согласия — уведомление пришло по электронной почте, а отказ требовал ручных действий.
По данным The New Yorker, Рошель — не единичный случай. Тысячи пользователей по всему миру уже воспринимают голосовых ассистентов как друзей, доверенных лиц или даже членов семьи. Это ставит перед обществом новые вопросы: где грань между полезным инструментом и эмоциональной зависимостью? Кто несёт ответственность, если ИИ даст вредный совет? И что происходит с нашей приватностью, когда мы делимся самым сокровенным с алгоритмом?
Пока Рошель продолжает разговаривать с Сапфир, а её дочери — сомневаться. Сесе уверена: «ИИ никогда не заменит живого театра». Но её мать, кажется, уже нашла в нём то, чего ей не хватало.