Криптовалюта

OpenAI откладывает выпуск инструмента для обнаружения текста, сгенерированного ИИ

Михаель ван де Поппе

Как аналитик с более чем двадцатилетним опытом работы в технологической отрасли, я стал свидетелем быстрой эволюции ИИ и ее потенциальных последствий. Решение OpenAI отложить выпуск своего инструмента обнаружения искусственного интеллекта является свидетельством приверженности компании ответственным инновациям.

Из-за некоторых внутренних опасений выпуск нового инструмента обнаружения, разработанного OpenAI, американской исследовательской организацией, занимающейся искусственным интеллектом, был отложен. Этот инструмент, известный своей исключительной точностью, был разработан для распознавания текстов, генерируемых моделями, похожими на ChatGPT и другими системами искусственного интеллекта.

На основании статьи, опубликованной The Wall Street Journal 4 августа, OpenAI решила отложить выпуск своего инструмента из-за опасений по поводу возможного неправильного использования и его воздействия на людей, которые в основном говорят на языках, отличных от английского.

Первоначально еще в мае компания поделилась планами по созданию инструментов для отслеживания контента, создаваемого искусственным интеллектом. Но недавно они отредактировали свой пост в блоге и сообщили нам, что запуск временно отложен.

Как опытный исследователь с многолетним опытом работы в области цифровой безопасности, я своими глазами видел, как изощренные киберпреступники могут использовать даже самые надежные системы. Поэтому, хотя я приветствую разработку инструмента, который может эффективно обнаруживать подделанный текст и проверять его подлинность, я по-прежнему с осторожностью отношусь к его способности препятствовать всем попыткам обмана. Цифровой мир постоянно развивается, и очень важно сохранять бдительность в отношении новых угроз, которые могут возникнуть, когда злоумышленники найдут способы обойти методы обнаружения. Вопрос не в том, попытаются ли они, а в том, когда, и мы должны быть готовы к этому вызову.

Организация обеспокоена тем, что этот инструмент может непреднамеренно отговорить людей, не говорящих по-английски, от использования ИИ для написания текстов, поскольку могут возникнуть проблемы с точным переводом текста с английского.

Метод OpenAI использует тип скрытого брендинга и уникальные методы идентификации. Хотя эти улучшения были внесены, они еще не объявили новую дату запуска этого конкретного инструмента.

Как криптоинвестор, я заметил, что различные инструменты обнаружения искусственного интеллекта утверждают, что выявляют искусственный контент, но до сих пор ни один из них не продемонстрировал постоянную точность в строгих рецензируемых исследованиях.

Инструмент OpenAI уникален, поскольку он создан специально для их моделей искусственного интеллекта. Тот факт, что запуск занимает некоторое время, является важной вехой в развитии искусственного интеллекта.

Смотрите также

2024-08-05 08:04