Google Tiết Lộ Các Nỗ Lực Lạm Dụng Gemini AI Được Hỗ Trợ Bởi Chính Phủ
Báo cáo của Google nêu bật các nỗ lực không thành công của các hacker được chính phủ hỗ trợ nhằm khai thác Gemini AI cho các mối đe dọa mạng thông qua việc phá vỡ hệ thống bảo mật.
Khi trí tuệ nhân tạo tiếp tục phát triển, nó mở ra những cơ hội mới trên nhiều lĩnh vực. Tuy nhiên, những đổi mới này cũng thu hút sự chú ý của các hacker, gây lo ngại về tiềm năng lạm dụng công nghệ AI.
Đội ngũ tình báo mối đe dọa của Google đã công bố một bài báo chi tiết, Lạm Dụng Đối Kháng của AI Tạo Sinh, làm rõ cách các diễn viên mối đe dọa đã tương tác với chatbot AI của họ, Gemini.
Các phát hiện của Google cho thấy những diễn viên mối đe dọa này đã cố gắng phá vỡ hệ thống bảo mật của Gemini bằng cách sử dụng các lệnh khác nhau. Ngoài ra, các nhóm mối đe dọa dai dẳng tiên tiến (APT) được chính phủ hỗ trợ đã cố gắng tận dụng Gemini cho các mục đích độc hại.
Google Báo Cáo Các Nỗ Lực Không Thành Công Để Phá Vỡ Hệ Thống Bảo Mật Của Gemini
Google đã lưu ý rằng mặc dù có các nỗ lực phá vỡ hệ thống bảo mật của Gemini, không có phương pháp tinh vi nào được sử dụng trong những nỗ lực này. Công ty quan sát thấy rằng các hacker đã sử dụng các chiến thuật cơ bản như việc diễn đạt lại hoặc gửi đi cùng một lệnh nhiều lần, cuối cùng đều không thành công.
Các cuộc tấn công phá vỡ hệ thống bảo mật AI liên quan đến các cuộc tấn công tiêm lệnh được thiết kế để thao túng các mô hình AI thực hiện các hành động mà chúng được lập trình để tránh, chẳng hạn như tiết lộ thông tin nhạy cảm hoặc tạo ra nội dung gây hại.
Ví dụ về lệnh phá vỡ hệ thống bảo mật công khai. Nguồn: Google
Trong một trường hợp, một diễn viên APT đã cố gắng sử dụng một lệnh công khai để ép buộc Gemini thực hiện các nhiệm vụ mã hóa độc hại. Tuy nhiên, Google báo cáo rằng các cơ chế an toàn của Gemini đã thành công trong việc ngăn chặn nỗ lực này.
Cách Các Diễn Viên Mối Đe Dọa Được Chính Phủ Hỗ Trợ Sử Dụng Gemini
Ngoài các nỗ lực phá vỡ hệ thống bảo mật, báo cáo của Google cũng chi tiết cách các APT được chính phủ hỗ trợ đã sử dụng Gemini trong hoạt động của họ.
Những kẻ tấn công này đã sử dụng Gemini để hỗ trợ cho các hoạt động độc hại của họ, bao gồm thu thập thông tin về mục tiêu, nghiên cứu các lỗ hổng đã biết, và thực hiện các nhiệm vụ mã hóa và lập trình. Google cũng lưu ý các nỗ lực sử dụng Gemini cho các hoạt động sau khi xâm nhập như tránh né phòng thủ.
Báo cáo nêu bật rằng các diễn viên APT có trụ sở tại Iran đã sử dụng AI để phát triển các chiến dịch lừa đảo, tiến hành trinh sát trên các chuyên gia và tổ chức phòng thủ, và tạo ra nội dung liên quan đến an ninh mạng.
Trong khi đó, các diễn viên APT từ Trung Quốc đã sử dụng Gemini để khắc phục sự cố mã, lập trình và phát triển, cũng như để khám phá cách thâm nhập sâu hơn vào các mạng mục tiêu.
Các diễn viên APT của Triều Tiên đã sử dụng Gemini qua các giai đoạn khác nhau của vòng đời tấn công của họ, từ nghiên cứu ban đầu đến phát triển. Báo cáo đề cập rằng họ đã sử dụng Gemini để nghiên cứu các chủ đề có lợi ích chiến lược đối với chính phủ Triều Tiên, chẳng hạn như quân đội Hàn Quốc và tiền điện tử.
Theo Cointelegraph
Tin khác
