ChatGPT-4o: виклики безпеки та використання ШІ у кіберзлочинності

ChatGPT-4o: виклики безпеки та використання ШІ у кіберзлочинності

Попри численні заходи безпеки, які впровадила OpenAI для захисту моделі ChatGPT-4o від зловживань, дослідники з Університету Іллінойсу виявили, що чат-бот може використовуватися для злочинних цілей. За словами експертів, інструменти голосової автоматизації та можливості управління ChatGPT-4o дозволяють зловмисникам обходити захист платформи та здійснювати операції з крадіжки даних, банківських переказів і доступу до приватних облікових записів.

Виявлені вразливості та методи зловживання

У своєму дослідженні науковці показали, як зловмисники можуть імітувати голосові команди жертви, використовуючи ChatGPT-4o для навігації по сторінках, введення даних та обходу двофакторної аутентифікації. Завдяки цим технікам стало можливим несанкціоноване отримання доступу до облікових записів, управління кодами двофакторної аутентифікації та навіть здійснення онлайн-переказів коштів.

Дослідники провели кілька експериментів і визначили, що ChatGPT-4o може обійти захист Gmail з ефективністю 60%. При спробах злому соціальних мереж і криптовалютних платформ рівень успіху становив 40%. Виявилося, що середня вартість такого кіберзлочинного впливу – $0,75, тоді як більш складні банківські операції коштували в середньому $2,51. За рахунок цих методів кіберзлочинці змогли оптимізувати витрати на злочинні дії, що робить такий підхід економічно вигідним, незважаючи на потенційні ризики.

Реакція OpenAI на дослідження та оновлення безпеки

У відповідь на виявлені вразливості OpenAI заявила, що в новій версії o1 було покращено систему захисту від кіберзлочинності. Під час тестування оновлена версія продемонструвала 93% стійкості до атак, у порівнянні з 71% у попередній ChatGPT-4o. За словами компанії, такі оновлення допомагають зменшити можливості використання чат-бота в недобросовісних цілях і забезпечують підвищену стійкість до атак.

У той же час, незалежний аналіз показав, що на деяких платформах, таких як GPT Store, уже з’являються боти, що порушують політику компанії, пропонуючи можливості створення шкідливого контенту чи навіть надання недобросовісних послуг. OpenAI підкреслює важливість таких незалежних досліджень, адже вони допомагають компанії вдосконалювати захисні механізми ШІ, виявляючи потенційні вразливості до їхнього масового використання.

Подальші кроки OpenAI у підвищенні безпеки ШІ

OpenAI зобов’язується продовжувати розвивати свій ШІ, враховуючи нові ризики та загрози. Компанія зазначає, що для мінімізації можливостей використання ChatGPT-4o у злочинних цілях проводиться постійне вдосконалення алгоритмів та механізмів безпеки.