Криптовалюта

Чат-бот Perplexity с искусственным интеллектом: почему журнал Wired называет его «машиной BS»

Михаель ван де Поппе

Как опытный криптоинвестор с большим опытом в области технологий и точности информации, я нахожу ситуацию вокруг Perplexity чрезвычайно тревожной. Обвинения в неточных ответах, неясных механизмах и этических проблемах, связанных со сбором данных, являются тревожными сигналами, которые требуют внимания как со стороны технологического сообщества, так и со стороны инвесторов.

21 июня 2024 года я, как исследователь, появился в качестве гостя на программе CNBC «Squawk Box» вместе с Кэти Драммонд, глобальным редакционным директором Wired. В ходе нашей беседы мы углубились в тонкости Perplexity, стартапа по поиску ИИ, который недавно стал предметом углубленного расследования журнала Wired. Дискуссия выявила несколько важных аспектов деятельности Perplexity и вызвала жизненно важные дебаты о влиянии искусственного интеллекта на журналистику и точность информации.

Рост недоумения

В недавних технологических разработках Perplexity стала важным игроком, привлекая значительные инвестиции от лидеров отрасли, таких как Джефф Безос, и имея оценку, приближающуюся к миллиарду долларов. Несмотря на этот впечатляющий рост, Perplexity столкнулся с критикой и противоречиями. Чтобы прояснить его роль и деятельность, Wired провел углубленное расследование, изучив возможности Perplexity, его функционирование и надежность результатов поиска.

Результаты расследования: неясные механизмы и неточные ответы

В ходе своего расследования для Wired Драммонд обратила внимание на неопределенность, связанную с тем, как работает технология Perplexity. Она утверждает, что эта компания, занимающаяся искусственным интеллектом, известная своими расширенными возможностями поиска, часто предоставляет неточные и, возможно, вводящие в заблуждение результаты. Пользователи жаловались на то, что ответы не являются последовательными и в значительной степени зависят от сбора поверхностных веб-данных без дальнейшего изучения или понимания.

Этические и юридические проблемы: парсинг и сбор данных

Как криптоинвестор, внимательно следящий за развитием событий вокруг Perplexity, я был заинтригован результатами расследований, которые стали известны относительно их методов сбора данных. По имеющимся данным, значительная часть их расследования была сосредоточена на том, как Perplexity получает свои данные.

Предвзятости и качество ответов ИИ

Как исследователь, изучающий такие инструменты искусственного интеллекта, как Perplexity, я не могу не подчеркнуть важность признания присущих им предубеждений и качества информации, которую они предоставляют. Принцип «мусор на входе — мусор на выходе» — это важнейшая концепция, о которой следует помнить. Это просто означает, что выходные данные модели ИИ настолько точны, насколько точны предоставленные ей данные. Например, недоумение во многом зависит от веб-данных, которые, к сожалению, иногда могут быть предвзятыми или неточными. Следовательно, его ответы могут отражать те же самые проблемы.

Как аналитик, я бы сказал это так: Драммонд подчеркнул важность обращения непосредственно к надежным журналистским источникам для получения точной информации, а не полагаться на сводки, созданные ИИ. Это подчеркивает серьезное препятствие в развитии систем искусственного интеллекта — выделение и определение приоритетности достоверных фактических данных из огромного количества сомнительных источников, доступных в Интернете.

Разрыв между технологиями и журналистикой

Дискуссия зашла о далеко идущих последствиях искусственного интеллекта для журналистики. Драммонд подчеркнул, что технологический сектор имеет тенденцию действовать независимо от морального компаса, определяющего новости и репортажи. Она выражает обеспокоенность по поводу того, как стремление к инновационным и прибыльным решениям в области искусственного интеллекта может непреднамеренно поставить под угрозу распространение правдивой и этической информации.

В ответ на обвинения со стороны Wired основатель и генеральный директор Perplexity Аравинд Сринивас пояснил в статье для Fast Company, что сбор данных Perplexity зависит не только от собственных веб-сканеров. Вместо этого они также используют сторонние сервисы для сканирования и индексирования веб-страниц. Сринивас объяснил, что конкретный веб-сканер, идентифицированный Wired, принадлежал не Perplexity, а нераскрытому внешнему поставщику в соответствии с соглашением о конфиденциальности.

Сринивас признал сложность предотвращения доступа стороннего сканера к контенту Wired, заявив: «Это непросто». Он также отметил, что Протокол исключения роботов, инициированный в 1994 году, не имеет юридической силы, и предположил, что растущее использование ИИ требует новой формы партнерства между производителями контента и такими платформами, как Perplexity.

Как исследователь, изучающий систему ответов Perplexity, я столкнулся с критикой со стороны Wired по поводу неточного перефразирования их статей. Один случай связан с ложным заявлением о том, что полицейский Калифорнии совершил преступление. Сринивас объяснил, что такие результаты могут быть результатом намеренно провокационных подсказок, и заверил, что обычные пользователи не столкнутся с такими проблемами. Однако он признал, что система не безошибочна.

Смотрите также

2024-06-22 09:17