Криптовалюта

Разработана программа искусственного интеллекта для борьбы с угрозой разжигания ненависти в Индии

Михаель ван де Поппе

Как опытный аналитик с обширным опытом работы в цифровых медиа и технологиях, я рад видеть активные шаги, предпринимаемые экспертами для борьбы с растущей угрозой языка ненависти и дипфейков на платформах социальных сетей. Продолжающиеся усилия Института информационных и коммуникационных технологий имени Дхирубхая Амбани (DAIICT) заслуживают особого внимания, учитывая значительное присутствие Индии как потребителя гигантов социальных сетей.

Чтобы бороться с растущей проблемой распространения языка ненависти и дипфейков в социальных сетях, особенно в отношении Индии, эксперты в настоящее время разрабатывают систему искусственного интеллекта (ИИ), предназначенную для выявления сложных форм онлайн-обмана, используемых лицами, распространяющими язык ненависти.

В качестве аналитика я недавно участвовал в «Форуме по оценке информационного поиска» (FIRE), проходившем в Институте информационных и коммуникационных технологий Дхирубхая Амбани (DAIICT) в Гандинагаре, Гуджарат. В течение четырех дней мы изучали последние тенденции, связанные с моделями больших языков (LLM) в машинном обучении (ML), делясь идеями и способствуя дискуссиям в этой быстро развивающейся области.

На мероприятии вы встретите профессора Томаса Мандла из Университета Хильдесхайма. В настоящее время он сотрудничает с индийской организацией над проектом по выявлению моделей разжигания ненависти. По словам профессора Томаса, с течением времени стало сложно отслеживать тексты, разжигающие ненависть, с помощью алгоритмов, поскольку преступники часто используют смешанные языки, используют «0» вместо «О» и другие закодированные термины.

По словам профессора Томаса, разрабатываемая система искусственного интеллекта предназначена для выявления сложных форм замаскированного языка ненависти со стороны потенциальных правонарушителей.

По словам профессора Томаса, очень важно регулярно пересматривать систему и обучать искусственный интеллект повторяющимся закономерностям, словарному запасу, популярным темам, актуальным предметам и уникальным демографическим секторам. Наши усилия охватывают не только английский язык, но и индийские языки.

По мере развития технологий и расширения социальных сетей в Индии значительно увеличилось количество случаев разжигания ненависти. Этот вопрос даже привлек внимание Верховного суда. Учитывая, что Индия входит в число крупнейших в мире пользователей основных платформ социальных сетей, вероятность распространения языка ненависти на этих платформах и его реальные последствия особенно серьезны.

Во время встречи профессор Прасенджит Маджумдер из DAIICT объяснил, что в последние годы растет понимание возможностей искусственного интеллекта и машинного обучения и того, как их следует подготовить для будущих приложений. Одним из важных направлений, которым они занимаются, является перевод парламентских дебатов в режиме реального времени на различные индийские языки, такие как гуджарати, телугу, тамильский, бенгальский, малаялам и другие. По его словам, эта инициатива может революционизировать доступность, сделав парламентские дискуссии более инклюзивными для более широкой общественности.

Согласно статье 19(1)(a) Конституции Индии, всем гражданам предоставлено фундаментальное право на свободу слова и выражения мнений. Однако, когда этой свободой злоупотребляют, Верховный суд Индии поручил Юридической комиссии рассмотреть случаи, когда высказывания выходят за рамки судебного вмешательства. Примечательно, что многие события, например, происходящие в религиозном контексте и на онлайн-платформах, выделили сообщества меньшинств, что побудило Верховный суд сосредоточить внимание на этом вопросе. В ответ они рассматривают возможность принятия закона, направленного на борьбу с разжиганием ненависти в Индии.

Смотрите также

2024-12-16 16:55