Ресурсы Библиотеки включают соответствующие документы ООН, учебные модули и пособия, региональные рамочные документы, а также исследования и публикации третьих сторон.

Бот-исследования борьбы с радикализацией. Использование социальных ботов для борьбы с насильственным экстремизмом (William Marcellino, Madeline Magnuson, Anne Stickells, Benjamin Boudreaux, Todd C. Helmus, Edward Geist, Zev Winkelman, RAND, 2020)

Скорость и распространение онлайн-вербовки для таких воинствующих экстремистских организаций (ВЭО), как Исламское Государство Ирака и Леванта (ИГИЛ), поставили под сомнение существующие усилия по эффективному вмешательству и противодействию радикализации в цифровом пространстве. Эта проблема способствует глобальной нестабильности и насилию. ИГИЛ и другие группы выявляют уязвимых людей через открытый диалог в социальных сетях (SM) и, в конечном итоге, ищут частных бесед в Интернете и офлайн для вербовки. Этот переход от открытого и легко обнаруживаемого онлайн-диалога к частной и скрытой вербовке может произойти быстро и предлагает короткое время для вмешательства, прежде чем разговор и целевые лица исчезнут.

Предприятие правительства США по обмену сообщениями о борьбе с радикализацией может извлечь выгоду из сложных возможностей для быстрого обнаружения целей вербовки НЭ и демонстрации им материалов по борьбе с радикализацией. В этом отчете исследователи исследуют применимость многообещающих новых технологических инструментов, в частности автоматизированных учетных записей SM, известных как боты, для решения этой проблемы. Их работа имеет значение для усилий по противодействию растущей угрозе спонсируемых государством пропагандистов, проводящих кампании дезинформации или радикализации американских экстремистов в Интернете, и оценивает осуществимость и целесообразность использования правительством США технологии социальных ботов для противодействия радикализации и связанных с этим целей. Анализ основан на интервью с рядом отраслевых экспертов из отрасли, правительства и академических кругов, а также на обзорах юридических и этических аспектов использования ботов, литературе по разработке и применению бот-технологий и тематических исследованиях прошлых применений. социальных ботов, чтобы влиять на людей, собирать информацию и проводить кампании по обмену сообщениями.

Основные выводы

Боты должны быть адаптированы для использования в определенных условиях

  • Платформы, культура и правительственные режимы, в которых развертывается бот, имеют значение.
  • Следует учитывать характеристики профиля социального бота, такие как очевидное социальное влияние и групповая принадлежность.
  • Необходимо учитывать сетевые характеристики пользователей, с которыми бот пытается подружиться или повлиять, например, количество друзей и плотность сети.

Бот-программы поднимают юридические и этические вопросы

  • Бот-программы, даже если они используются исключительно внутри страны, имеют международные последствия, потенциально создавая прецеденты, которые нормализуют действия других государств.
  • Правительство США должно интегрировать информацию, которую оно собирает с помощью ботов, в установленные механизмы сбора информации и защиты конфиденциальности.
  • Правительство США не должно использовать бота для совершения действий, которые были бы запрещены законом или этически, если бы они проводились без устройства, но поддержание честности и прозрачности снизит некоторую степень этического риска.
  • Получение разрешения у интернет-платформ перед развертыванием ботов может помочь избежать нагрузки на социальные сети.

Оценка концепций работы бота на предмет рисков и возможностей может помочь определить, какие устройства использовать

  • Использование ботов - жизнеспособный подход для ряда технологически выполнимых и эффективных вмешательств.
  • Существует повышенный риск неожиданных негативных результатов, если не будет задействован человеческий надзор. Лица, принимающие решения, должны тщательно взвесить риски и потенциальные выгоды от предлагаемых автоматических программ-ботов.

Рекомендации

  • Проанализировать международный прецедент, который может быть создан любой предложенной программой правительства США по ботам, чтобы избежать нормализации агрессивных действий и поведения других государств, которые подрывают кибербезопасность, нарушая конфиденциальность, целостность или доступность информации в Интернете.
  • В ответ на опасения по поводу Положения о создании, свободы слова, конфиденциальности и Закона Смита-Мундта сосредоточить внимание на узко целевой аудитории, вызывающей озабоченность, за рубежом; избегать нацеливания на пользователей по религиозным критериям; и, при необходимости, устанавливать брандмауэры между некоторыми программами-ботами и правоохранительными органами, спецслужбами или международными партнерами.
  • Что касается условий обслуживания платформы SM и возможных проблем, запрашивайте разрешение компаний перед развертыванием ботов, когда это необходимо и возможно.
  • Учитывая вероятность того, что деятельность ботов, спонсируемых США, станет достоянием общественности, сделайте операции ботов правительства США максимально прозрачными в рамках операционных ограничений.
  • Чтобы обеспечить соблюдение правовых норм, проводите специальную юридическую проверку для каждой операции развертывания бота в соответствии с применимым законодательством.
  • Сообщайте всем агентствам об инициативах в области бот-технологий, чтобы разработать общую концептуальную основу и общую картину работы между агентствами.
  • Провести полную межведомственную юридическую проверку принципов, которым должны следовать правительственные программы США по работе с ботами.
  • Обнародовать доктрину о том, как государственные органы США взаимодействуют и проводят операции для обеспечения максимальной прозрачности даже при защите конфиденциальных операционных деталей.
  • Постепенно проверяйте эффективность и целесообразность программ-ботов, сотрудничая с неправительственными организациями или странами-партнерами, или внедряя внутренние программы-боты.
  • Продвигайте технологии обнаружения ботов, чтобы злоумышленникам было сложнее использовать обман с помощью ботов.

Оригинал публикации доступен по ссылке

Тема
Тема: Интервенции, Интернет, Профилактика насильственного экстремизма, СМИ
Страна: США
Скачать
Webseite www.webdesigner-profi.de
FaLang translation system by Faboba