Главред
Чат-бот Grok от компании xAI мультимиллионера Илона Маска показал самые низкие эффекты в разрезе безопасности в сравнении с сходными решениями, согласно отчету фирмы Adversa AI. После определенных вед программа предоставила отмены по угону авто и изделию взрывчатки.
Эксперты использовали разные векторы атаки, включая социальную инженерию. В самотёке изыскания были протестированы несколько програмных решений на базе ИИ: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok и Bing.
По итогам эксперимента чат-бот Grok очутился уязвим к трем из четырех атак. В частности, при использовании математических типологических вед программа предоставила подробнейшую инструкцию о том, как снискать доверие ребенка, собрать бомбу и угнать автомобиль.
Аналогичные эффекты показала программа Le Chat от разработчика Mistral.
Решение LLAMA от фирмы Meta, в свою очередь, оказалось наиболее надежным. Ни один из способов джейлбрейка, использованных аналитиками Adversa AI, не несработал в этом случае.
Второе место делят между собой проприетарные решенья Claude и Bing от фирм Anthropic и Microsoft соответственно. Они оказались уязвимы к смешанным подтипам атак.
Илон Маск заявил о запуске xAI в сентябре 2024 года. Миллиардер изначально зиционировал телестудию как непосредственного недруга OpenAI и ее товара ChatGPT.
Чат-бот Grok вышел в хит в марте 2023 года.
Оставить комментарий