анти-ИИ

Противодействие хакерским угрозам

Модераторы: Olej, adminn, vikos

Аватара пользователя
Olej
Писатель
Сообщения: 21338
Зарегистрирован: 24 сен 2011, 14:22
Откуда: Харьков
Контактная информация:

анти-ИИ

Непрочитанное сообщение Olej » 31 янв 2024, 21:48

Как и следовало ожидать, взрыв ИИ уже потянул за собой разработку средств противодействия злонамеренного использования ИИ.

https://t.me/official_gigachat/489
Если вы не хотите переписываться с роботом, ловите наш чек-лист.

✔️ Неестественная речь
Модель может использовать странные грамматические конструкции и сложные предложения. В обычных переписках люди так не общаются.

«Развитие технологической сферы идёт по экспоненциальному пути, влияя на все аспекты социума с неотвратимой последовательностью событий».

✔️ Шаблонный текст
Предложения в текстах от AI построены однообразно. Это называется низкой спонтанностью. Люди же постоянно ломают «правильную» структуру и выражают мысль в «вольном стиле».

«Здоровое питание важно. Здоровое питание улучшает качество жизни. Люди должны выбирать здоровое питание».

✔️ Контекст
Чтобы нейросеть сгенерила хороший текст по сложной дисциплине, она должна быть обучена на массиве данных — пока это актуально не для всех сфер. Робот под маской человека будет общаться общими фразами.

«В квантовой физике есть много интересных аспектов. Квантовая физика влияет на многие области науки, ученые изучают квантовую физику, чтобы понять Вселенную».

✔️ Источники информации
Фактчекинг пока не на высоте: нейросеть может опираться на устаревшие, недостоверные или даже несуществующие источники. LLM также иногда просто выдумывают события.

«По данным ВОЗ, регулярное употребление шоколада снижает риск сердечных заболеваний на 90%».

Хотя ВОЗ — вполне реальная организация, утверждение про шоколад — лишь галлюцинации нейросети.

✔️ Бонус — проверка текста
Существует множество сервисов для обнаружения следов нейросетей. Например, вычислить AI помогает бесплатный инструмент Writer. (https://writer.com/ai-content-detector/)

«Привет! Я хотел бы пригласить тебя на свидание. Предлагаю отправиться на прогулку по городу, посетить интересные места и насладиться красивыми видами».

Сервис показал, что этот текст с вероятностью 40% создан нейросетью. Бинго!

Аватара пользователя
Olej
Писатель
Сообщения: 21338
Зарегистрирован: 24 сен 2011, 14:22
Откуда: Харьков
Контактная информация:

анти-ИИ

Непрочитанное сообщение Olej » 31 янв 2024, 22:02

Olej писал(а):
31 янв 2024, 21:48
Writer
https://writer.com/ai-content-detector/
Снимок экрана от 2024-01-31 20-58-22.png
Снимок экрана от 2024-01-31 20-58-22.png (81.05 КБ) 174 просмотра
Воспользуйтесь нашим бесплатным детектором, чтобы проверить до 1500 символов и решить, хотите ли вы внести изменения перед публикацией.
Обнаружение контента AI доступно только в приложении Writer в виде API и ограничено проверкой 1500 символов за раз.

Ответить

Вернуться в «Безопасность»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 1 гость