ChatGPT-4o: вызовы безопасности и использование ИИ в киберпреступности

ChatGPT-4o: вызовы безопасности и использование ИИ в киберпреступности

Несмотря на множество мер безопасности, внедрённых OpenAI для защиты ChatGPT-4o, исследователи из Иллинойсского университета выявили уязвимости, которые делают модель полезной для злоумышленников. Эксперты показали, как с помощью автоматизации голосовых команд и других возможностей ChatGPT-4o можно обходить защиту и осуществлять кражу данных, банковские переводы и доступ к конфиденциальным аккаунтам.

Обнаруженные уязвимости и способы злоупотребления

Учёные продемонстрировали, что злоумышленники могут использовать ChatGPT-4o для имитации голосовых команд, обхода двухфакторной аутентификации и автоматизации действий в браузере. Эксперименты выявили, что:

• вероятность взлома Gmail составляет 60%;
• успешность атак на соцсети и криптоплатформы — 40%.

Средняя стоимость одной кибероперации составила $0,75, а более сложные — $2,51. Эти данные указывают на экономическую эффективность таких атак, что повышает их привлекательность для злоумышленников.

Реакция OpenAI

Компания выпустила обновление версии o1, в котором стóйкость к взломам возросла до 93% по сравнению с 71% у предыдущей версии ChatGPT-4o. Однако независимые эксперты обнаружили, что на платформах вроде GPT Store появляются боты, нарушающие политику компании, предлагая вредоносные услуги.

Планы OpenAI

OpenAI активно улучшает алгоритмы и системы защиты, чтобы минимизировать риски. Компания подчёркивает, что постоянные исследования и обратная связь помогут предотвратить злоупотребления и укрепить безопасность своих продуктов