Con dao hai lưỡi của trí tuệ nhân tạo: Khám phá thách thức an ninh do mô hình ngôn ngữ lớn không bị hạn chế mang lại

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các mô hình trong series GPT đến Gemini đang thay đổi sâu sắc cách sống của chúng ta. Tuy nhiên, sự tiến bộ công nghệ cũng mang đến những rủi ro tiềm ẩn, đặc biệt là sự xuất hiện của các mô hình ngôn ngữ lớn không bị kiểm soát hoặc có ý đồ xấu.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế hoặc sửa đổi để vượt qua các cơ chế an toàn và giới hạn đạo đức của các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống đã đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức với động cơ xấu bắt đầu tìm kiếm hoặc phát triển các mô hình không bị ràng buộc. Bài viết này sẽ khám phá các mối đe dọa tiềm tàng của các mô hình này trong ngành công nghiệp tiền điện tử và các chiến lược ứng phó.

Mối đe dọa tiềm tàng của LLM không giới hạn

Các mô hình như vậy khiến những nhiệm vụ vốn cần kỹ năng chuyên môn trở nên đơn giản, ngay cả những người bình thường cũng có thể dễ dàng thực hiện việc viết mã độc, tạo email lừa đảo và các thao tác khác. Kẻ tấn công có thể thu thập các mô hình mã nguồn mở và thực hiện tinh chỉnh độc hại để tạo ra các công cụ tấn công tùy chỉnh. Mô hình này mang lại nhiều rủi ro:

1. Vượt qua kiểm duyệt nội dung, tạo ra nội dung lừa đảo hơn.
2. Tạo nhanh các biến thể mã website lừa đảo
3. Tùy chỉnh nội dung lừa đảo cho các nền tảng khác nhau
4. Thúc đẩy sự hình thành và lan tỏa của hệ sinh thái AI ngầm

Công cụ LLM không giới hạn điển hình và khả năng lạm dụng tiềm ẩn

WormGPT: phiên bản tối tăm của GPT

WormGPT là một LLM độc hại được bán trên các diễn đàn ngầm, dựa trên các mô hình mã nguồn mở như GPT-J 6B và được huấn luyện trên dữ liệu liên quan đến phần mềm độc hại. Các mục đích chính của nó bao gồm:

• Tạo email tấn công xâm nhập thương mại chân thực
• Tạo email lừa đảo, giả mạo sàn giao dịch tiền điện tử hoặc dự án
• Hỗ trợ viết mã độc như trộm cắp tập tin ví
• Kích hoạt cuộc đối thoại lừa đảo tự động

DarkBERT: Công cụ phân tích nội dung mạng tối

DarkBERT là một mô hình ngôn ngữ được tiền huấn luyện đặc biệt trên dữ liệu từ mạng tối, ban đầu được sử dụng cho nghiên cứu an ninh và thực thi pháp luật. Tuy nhiên, nếu nội dung nhạy cảm mà nó nắm giữ bị lạm dụng, có thể dẫn đến:

• Thực hiện lừa đảo chính xác, thu thập thông tin người dùng tiền điện tử
• Sao chép các chiến lược trộm tiền và rửa tiền đã trưởng thành trong mạng tối

FraudGPT：công cụ lừa đảo trực tuyến

FraudGPT được gọi là phiên bản nâng cấp của WormGPT, với chức năng toàn diện hơn. Các lạm dụng tiềm tàng trong lĩnh vực tiền điện tử bao gồm:

• Dự án tiền điện tử giả mạo, tạo ra sách trắng và tài liệu tiếp thị giả
• Tạo hàng loạt trang đăng nhập giả mạo sàn giao dịch
• Sản xuất hàng loạt các bình luận và tuyên truyền giả
• Thực hiện tấn công kỹ thuật xã hội, dụ dỗ người dùng tiết lộ thông tin nhạy cảm

GhostGPT: AI trợ lý không có ràng buộc đạo đức

GhostGPT được xác định rõ ràng là một chatbot không có hạn chế về đạo đức, có thể được sử dụng cho:

• Tạo email giả mạo lừa đảo rất chân thực
• Tạo hợp đồng thông minh có backdoor nhanh chóng
• Tạo phần mềm độc hại có khả năng biến hình
• Triển khai robot lừa đảo trên mạng xã hội tự động
• Kết hợp với các công cụ AI khác để thực hiện lừa đảo giả mạo sâu.

Venice.ai: Rủi ro tiềm ẩn về việc truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM khác nhau, bao gồm một số mô hình có hạn chế ít hơn. Mặc dù được định vị là nền tảng khám phá mở, nhưng cũng có thể bị lạm dụng:

• Vượt qua kiểm duyệt để tạo nội dung độc hại
• Giảm bớt rào cản kỹ thuật, thuận tiện cho việc nhận đầu ra hạn chế
• Tăng tốc độ lặp lại và tối ưu hóa kịch bản tấn công

Chiến lược ứng phó

Đối mặt với những mối đe dọa mới từ LLM không giới hạn, các bên trong hệ sinh thái an ninh cần hợp tác nỗ lực:

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển khả năng nhận diện và chặn nội dung do LLM độc hại tạo ra.
2. Nâng cao khả năng phòng chống jailbreak của mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc
3. Thiết lập và hoàn thiện các quy tắc đạo đức và cơ chế giám sát, hạn chế từ nguồn phát triển và sử dụng các mô hình ác ý.

Sự xuất hiện của LLM không giới hạn đánh dấu một nền tảng tấn công mới phức tạp, quy mô và tự động hóa mà an ninh mạng đang phải đối mặt. Chỉ thông qua đổi mới công nghệ, ràng buộc đạo đức và hợp tác đa phương, chúng ta mới có thể ứng phó hiệu quả với mối đe dọa mới nổi này, đảm bảo rằng công nghệ AI không bị lạm dụng trong khi thúc đẩy đổi mới.