У кошику порожньо

2024-12-12 16:25:02

ChatGPT-4o: виклики безпеки та використання ШІ у кіберзлочинності

ChatGPT-4o: виклики безпеки та використання ШІ у кіберзлочинності

Попри численні заходи безпеки, які впровадила OpenAI для захисту моделі ChatGPT-4o від зловживань, дослідники з Університету Іллінойсу виявили, що чат-бот може використовуватися для злочинних цілей. За словами експертів, інструменти голосової автоматизації та можливості управління ChatGPT-4o дозволяють зловмисникам обходити захист платформи та здійснювати операції з крадіжки даних, банківських переказів і доступу до приватних облікових записів.


Виявлені вразливості та методи зловживання

У своєму дослідженні науковці показали, як зловмисники можуть імітувати голосові команди жертви, використовуючи ChatGPT-4o для навігації по сторінках, введення даних та обходу двофакторної аутентифікації. Завдяки цим технікам стало можливим несанкціоноване отримання доступу до облікових записів, управління кодами двофакторної аутентифікації та навіть здійснення онлайн-переказів коштів.

Дослідники провели кілька експериментів і визначили, що ChatGPT-4o може обійти захист Gmail з ефективністю 60%. При спробах злому соціальних мереж і криптовалютних платформ рівень успіху становив 40%. Виявилося, що середня вартість такого кіберзлочинного впливу – $0,75, тоді як більш складні банківські операції коштували в середньому $2,51. За рахунок цих методів кіберзлочинці змогли оптимізувати витрати на злочинні дії, що робить такий підхід економічно вигідним, незважаючи на потенційні ризики.




Реакція OpenAI на дослідження та оновлення безпеки

У відповідь на виявлені вразливості OpenAI заявила, що в новій версії o1 було покращено систему захисту від кіберзлочинності. Під час тестування оновлена версія продемонструвала 93% стійкості до атак, у порівнянні з 71% у попередній ChatGPT-4o. За словами компанії, такі оновлення допомагають зменшити можливості використання чат-бота в недобросовісних цілях і забезпечують підвищену стійкість до атак.

У той же час, незалежний аналіз показав, що на деяких платформах, таких як GPT Store, уже з’являються боти, що порушують політику компанії, пропонуючи можливості створення шкідливого контенту чи навіть надання недобросовісних послуг. OpenAI підкреслює важливість таких незалежних досліджень, адже вони допомагають компанії вдосконалювати захисні механізми ШІ, виявляючи потенційні вразливості до їхнього масового використання.


Подальші кроки OpenAI у підвищенні безпеки ШІ

OpenAI зобов’язується продовжувати розвивати свій ШІ, враховуючи нові ризики та загрози. Компанія зазначає, що для мінімізації можливостей використання ChatGPT-4o у злочинних цілях проводиться постійне вдосконалення алгоритмів та механізмів безпеки.

Дивіться також

Супер Конкурс!!!

Розіграш призів. Компанії Gadgik 4 роки!!!

Вигідна пропозиція для водіїв OnTaxi

Вигідна пропозиція для водіїв OnTaxi

Детальні умови за посиланням...

У нас з'явився інформаційний телеграм канал

У нас з'явився інформаційний телеграм канал

Дізнавайся корисну інформацію про гаджетах і аксесуарах в нашому телеграм каналі

AiMation випустила повнометражний мультфільм, створений нейромережею

Цього тижня AiMation представила повнометражний анімаційний фільм «Там, де ростуть роботи» (Where The Robots Grow), доступний для безкоштовного перегляду на YouTube. Унікальність проєкту полягає у використанні генеративних нейромереж, що дозволило створити фільм за рекордно низький бюджет для анімації такого масштабу.

XiaoMi MiBand 4, як відрізнити підробку від оригіналу: опис основних способів

Яку вебкамеру вибрати для комп'ютера

Яку вебкамеру вибрати для комп'ютера

Навушники бездротові Xiaomi Redmi Airdots як відрізнити оригінал від підробки

Як вибрати селфі палицю для смартфона

Як вибрати селфі палицю для смартфона

Вибираємо дитячий смарт годинник, на який нюанси звернути увагу

Вибираємо дитячий смарт годинник, на який нюанси звернути увагу

Як правильно вибрати запчастини для телефону

Як правильно вибрати запчастини для телефону

Як вибрати портативні колонки

Як вибрати портативні колонки

Схожі статті

Instagram Telegram Bot