Двосічний меч штучного інтелекту: дослідження проблем безпеки, що виникають через необмежені великі мовні моделі

З розвитком технологій штучного інтелекту, від серії GPT до таких передових моделей, як Gemini, відбувається глибока зміна нашого способу життя. Однак разом із технічним прогресом виникають і потенційні ризики, особливо з появою необмежених або зловмисних великих мовних моделей.

Безмежні LLM - це ті, які були спроектовані або модифіковані для обходу механізмів безпеки та етичних обмежень основних моделей. Хоча розробники основних LLM витрачають багато ресурсів на запобігання зловживанням моделями, деякі особи або організації з поганими намірами починають шукати або розробляти моделі без обмежень. Ця стаття розгляне потенційні загрози таких моделей у криптоіндустрії та стратегії реагування.

Потенційні загрози без обмежень LLM

Ці моделі спрощують завдання, які раніше вимагали професійних навичок, так що навіть звичайні люди можуть легко виконувати такі дії, як написання шкідливого коду, створення фішингових електронних листів тощо. Зловмисники можуть отримати доступ до відкритих моделей і здійснювати шкідливу тонку налаштування, створюючи індивідуалізовані інструменти для атак. Ця модель приносить багаточисельні ризики:

1. Відхилятися від перевірки вмісту, генеруючи більш оманливий вміст
2. Швидке створення варіантів коду фішингових сайтів
3. Налаштування шахрайських текстів для різних платформ
4. Сприяння формуванню та поширенню підземної екосистеми ШІ

Типові необмежені LLM інструменти та їх потенційне зловживання

WormGPT：темна версія GPT

WormGPT — це шкідливий LLM, що продається на підпільних форумах, заснований на відкритих моделях, таких як GPT-J 6B, і навчений на даних, пов'язаних з шкідливим програмним забезпеченням. Його основні цілі включають:

• Генерація реалістичних електронних листів для атак на бізнес
• Створення фішингових електронних листів, що імітують криптовалютні біржі або проекти
• Допомога у написанні шкідливого коду для викрадення файлів гаманців тощо
• Автоматизація шахрайських діалогів

DarkBERT: інструмент аналізу контенту темної мережі

DarkBERT є мовною моделлю, що спеціально підготовлена на даних з темного вебу, спочатку призначеною для досліджень безпеки та правоохоронних органів. Однак, якщо чутливий вміст, що ним опановано, буде зловжито, це може призвести до:

• Виконання точного шахрайства, збір інформації про користувачів криптовалюти
• Копіювати зрілі стратегії крадіжки монет і відмивання грошей з темної мережі

FraudGPT: інструмент для мережевих шахрайств

FraudGPT називається вдосконаленою версією WormGPT, має більш розширені функції. Потенційне зловживання в крипто-сфері включає:

• Підроблені криптопроекти, створення фальшивих білих книг та маркетингових копій
• Масове створення підроблених сторінок входу до біржі
• Масове виготовлення фальшивих коментарів та реклами
• Проведення соціальної інженерії, спонукаючи користувачів розголошувати чутливу інформацію

GhostGPT: AI асистент без моральних обмежень

GhostGPT чітко позиціонується як чат-бот без етичних обмежень, який може бути використаний для:

• Генерація високоякісних фішингових листів
• Швидке створення смарт-контрактів з бекдором
• Створення шкідливого програмного забезпечення з можливістю трансформації
• Розгортання автоматизованих шахрайських ботів у соціальних мережах
• Співпраця з іншими AI-інструментами для глибокого підроблення шахрайства

Venice.ai: потенційний ризик без цензури

Venice.ai надає доступ до різних LLM, включаючи деякі моделі з меншими обмеженнями. Хоча його позиціонують як платформу для відкритого дослідження, його також можуть зловживати:

• Обхід цензури для створення шкідливого контенту
• Знизити поріг для отримання підказок, щоб полегшити доступ до обмежених виходів
• Прискорення ітерації та оптимізації атакуючих фраз

Стратегії реагування

Стикаючись з новими загрозами, що виникають через необмежені LLM, всі сторони безпекової екосистеми повинні працювати спільно:

1. Збільшити вкладення в технології виявлення, розробити можливості для ідентифікації та перехоплення зловмисно згенерованого контенту LLM.
2. Підвищення здатності моделі до захисту від зламу, дослідження водяних знаків та механізму відстеження
3. Створення ефективних етичних норм та регуляторних механізмів, щоб обмежити розробку та використання злочинних моделей з самого початку.

Поява безмежних LLM позначає нову парадигму атак, яка є більш складною, масштабованою та автоматизованою для кібербезпеки. Лише через технологічні інновації, етичні обмеження та багатосторонню співпрацю можна ефективно протистояти цій новій загрозі, забезпечивши, щоб AI-технології не зловживалися, одночасно сприяючи інноваціям.