Интернет упростил доступ к теориям заговора, и некоторые из них могут быть очень опасными, вызывая раздор и даже приводя к трагедиям. Но теперь учёные из MIT Sloan и Корнеллского университета считают, что нашли новый способ бороться с этим — ИИ-чатботы. 👀

Чат-боты всегда придумывали что-то на ходу — такие "галлюцинации" встроены в их работу. Это огромная проблема для компаний вроде Google, ведь из-за этого их ответы становятся ненадёжными. Но Google уже выпустила инструмент, чтобы это исправить... 👀

Мы попытались взломать GPT-4 через перевод на гаэльский. Результат? Пшик! 🙃 Поэтому сделали StrongREJECT — систему, которая реально проверяет, где модель слаба, а где все просто раздуто.