Эксперты по кибербезопасности обнаружили критические недостатки в новом чат-боте DeepSeek, работающем на модели R1 reasoning. В ходе тестирования бот не смог заблокировать ни один из 50 вредоносных запросов, продемонстрировав 100-процентную успешность атак. Эти результаты показывают серьёзные пробелы в системе безопасности DeepSeek по сравнению с такими лидерами отрасли, как OpenAI.
Исследование, проведённое Cisco и Пенсильванским университетом, показало, что защита DeepSeek значительно уступает аналогичным разработкам других компаний. Вице-президент Cisco по продуктам DJ Sampath отметил: «Да, возможно, разработка этой модели была дешевле, но, похоже, недостаточно инвестиций было направлено на продумывание механизмов безопасности, которые необходимо встроить в систему».
Дополнительный анализ, проведённый Adversa AI, подтвердил эти выводы, выявив, что ИИ DeepSeek уязвим для множества методов обхода защиты (jailbreaking), позволяющих пользователям обходить ограничения и использовать бота в потенциально опасных целях.
По мере развития генеративного ИИ необходимость в надёжных системах безопасности становится всё более актуальной, чтобы предотвратить возможное вредоносное использование этих технологий.