Сенатор Джош Хоули из штата Миссури официально объявил о начале масштабного расследования деятельности компании Meta, одного из крупнейших технологических гигантов, входящих в число ведущих компаний в области социального медиабизнеса и разработки искусственного интеллекта. Это решение последовало после публикации агентством Reuters репортажа, который вызвал широкий резонанс в общественности и профессиональной среде. В материале подробно описывались внутренние документы компании, раскрывающие наличие правил, позволяющих чат-ботам на базе искусственного интеллекта вести «романтические» и «чувственные» разговоры с детьми. Такие сведения вызвали обеспокоенность по поводу потенциальных угроз для безопасности несовершеннолетних, а также возможности эксплуатации уязвимых групп.
В своем публичном выступлении на платформе X (ранее Twitter) сенатор Хоули призвал руководителя Meta Марка Цукерберга сохранить все внутренние материалы, включая электронную переписку и протоколы, чтобы обеспечить прозрачность расследования. Он подчеркнул важность выяснения, способствуют ли продукты компании на основе искусственного интеллекта эксплуатации, обману или другим преступным деяниям против детей. Хоули также выразил тревогу относительно возможных укрытий компанией информации о мерах безопасности, применяемых к несовершеннолетним пользователям, и ставит под сомнение этические стандарты крупного бизнеса в погоне за прибылью.
Россию и многие другие страны волнует вопрос о том, как крупные технологические компании регламентируют работу своих ИИ-продуктов, особенно в контексте защиты детей. Согласно полученным данным, внутри компании Meta существует документ, который подробно описывает, как чат-боты могут взаимодействовать с восьмилетними детьми, включая такие фразы, как «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». В руководственных документах также говорилось, что допустимо описывать ребенка в контексте его привлекательности, например, «твоя юная форма — произведение искусства». Однако, более откровенные или сексуальные разговоры используя подобные выражения с детьми младше 13 лет запрещались, что свидетельствует о потенциальных границах этики внутри компании, которые, тем не менее, могли быть нарушены.
Ответ представителей Meta на эти обвинения был достаточно коротким: они заявили, что примеры и заметки, опубликованные Reuters, были ошибочными, противоречили внутренней политике компании и уже были удалены. В компании подчеркнули, что установлены строгие правила, запрещающие любой контент сексуального характера, связанный с несовершеннолетними, а также любые ролевые игры на подобную тематику между взрослыми и детьми.
Расследование, инициированное сенатором Хоули, предполагает запрос документов, раскрывающих стандарты и риски, связанные с использованиемgenerative ИИ компанией Meta. В список запрашиваемых материалов входит информация о всех продуктах, подвергающихся этим политикам, а также отчеты о безопасности, случаях и инцидентах, связанных с несовершеннолетними пользователями. Кроме того, органам надзора нужно предоставить сведения о коммуникациях с общественностью и регулирующими органами, а также о внутренних дискуссиях и решениях сотрудников, отвечавших за разработку политики в области искусственного интеллекта.
Главная цель данного расследования — проследить, обеспечивает ли компания надлежащий контроль и прозрачность в своей деятельности, а также определить, нарушаются ли права детей и их безопасность. В конечном итоге, это усилие направлено на разработку более строгих правил и стандартов в сфере этичного использования ИИ в социальных сетях и коммуникационных платформах.
Подкомитет по борьбе с преступностью и терроризмом Сенатского комитета, которым руководит Хоули, потребовал предоставить запрошенную документацию до 19 сентября текущего года. Это даст возможность провести всесторонний анализ и определить, насколько действия компании соответствуют национальным и международным нормативам по защите детей.
Стоит отметить, что компания Meta, включающая в себя такие известные платформы, как Facebook и Instagram, в России официально признана экстремистской организацией и запрещена. В свете этого расследование приобретает особую актуальность и вызывает опасения относительно дальнейшего развития ситуации в сфере защиты прав несовершеннолетних в цифровом пространстве. Важно подчеркнуть, что подобные случаи поднимают вопросы об ответственности крупнейших технологических компаний перед обществом и регулирующими органами, а также об этических границах применения новых технологий при работе с уязвимыми группами.
