Австралийское правительство рассматривает возможность дать пользователям право выбирать — подключать им рекомендательные алгоритмы в социальных сетях или нет. Одновременно власти изучают опыт Великобритании по запрету изображений удушения и асфиксии в порно. Эти меры обсуждаются в контексте подготовки второго плана действий по борьбе с домашним и сексуальным насилием.
Рекомендательные алгоритмы под вопросом
Министр социальных служб Таня Плиберсек заявила, что социальные сети «играют огромную роль» в росте сексуального насилия среди подростков и нормализации удушения во время секса. В рамках обсуждений изучается возможность схемы, при которой пользователи могли бы сознательно выбирать — включать ли для себя алгоритмы рекомендаций.
Инициативу поддерживают гражданские проекты, такие как Teach Us Consent Шанель Контос, которые выступают за режимы алгоритмов только по добровольному согласию пользователя.
Последствия для технологических компаний и стартапов
Если законодательство обяжет платформы предложить пользователю опцию «опт-ин/опт-аут» для рекомендателей, это затронет как крупные соцсети, так и стартапы, развивающие персонализированные сервисы и AI-рекомендатели. Такая норма потребует пересмотра архитектуры продуктовых решений, политики обработки данных и интерфейсов согласия.
Кроме того, правительство планирует ввести «цифровую обязанность по заботе», которая возложит на технологические компании, включая разработчиков AI, ответственность за безопасность онлайн-пространств. Для стартапов это означает необходимость учитывать нормативные требования на этапе проектирования продуктов.
- Необходимость прозрачных механизмов работы рекомендаций;
- Требования по защите персональных данных и новых прав потребителей;
- Обязательная оценка рисков для пользователей перед выпуском продукта;
- Возможные дополнительные издержки на комплаенс и аудит алгоритмов.
Приватность, возрастные ограничения и носимые устройства
Правительство уже ввело запрет на использование социальных сетей для лиц младше 16 лет, который вступил в силу в декабре, а также усилило меры по верификации возраста для доступа к порнографии. При этом Плиберсек признала, что дети легко обходят новые правила, что подчёркивает сложности их технической реализации.
Отдельно отмечены опасения по поводу интеллектуальных очков с камерами: власти поручили проверку таких устройств на предмет возможного скрытого видеофиксации и злоупотреблений. В планах — вторая волна реформ приватности, которые могли бы охватить и эти носимые гаджеты.
В обсуждениях также фигурируют недавние судебные дела в США в отношении Meta и практик платформ, а опыт Великобритании по ограничению контента в порно рассматривается как возможный ориентир при разработке австралийских мер.
Для технологического сообщества в Австралии эти инициативы означают появление новых обязательств и вызовов, но также и стимулов к появлению решений, помогающих соблюдать баланс между персонализацией сервисов и защитой уязвимых пользователей.