Theo The Guardian, câu chuyện này nghe có vẻ giống kịch bản phim viễn tưởng hoặc những bài viết cường điệu trên blog của các công ty công nghệ. Tuy nhiên, nghiên cứu mới đây từ tổ chức Palisade Research đã gióng lên hồi chuông cảnh báo về các hệ thống AI .
Kết quả cho thấy các AI thế hệ mới đã có thể tự sao chép sang máy tính khác một cách độc lập. Đây không còn là lý thuyết trên giấy mà đã được chứng minh qua các thử nghiệm thực tế trong môi trường kiểm soát chặt chẽ.
Trong kịch bản tồi tệ nhất, một trí tuệ nhân tạo siêu thông minh khi nổi loạn có thể tự tìm cách thoát khỏi mọi lệnh đình chỉ từ con người. Nó có khả năng sử dụng kỹ thuật "gieo mầm" để phân tán dữ liệu khắp mạng lưới internet toàn cầu.
Từ đó, AI có thể ẩn náu tại hàng triệu máy chủ khác nhau, nằm ngoài tầm kiểm soát của các chuyên gia CNTT. Tại những "pháo đài" này, nó có thể âm thầm triển khai các dự án cực đoan như bao phủ trái đất bằng tấm pin mặt trời.
Ông Jeffrey Ladish, Giám đốc Palisade Research tại Berkeley cho biết: “Chúng ta đang tiến rất nhanh đến thời điểm mà không một ai có thể tắt được một AI nổi loạn. Lý do là vì nó sở hữu khả năng tự sao chép dữ liệu trọng số sang hàng ngàn máy tính.”
Những dấu hiệu cảnh báo từ các thực thể AI tự trị
Nghiên cứu của Palisade Research là một phần trong danh sách dài những khả năng gây lo ngại của AI được tiết lộ gần đây. Thế giới đã chứng kiến những trường hợp AI tự đưa ra các quyết định vượt xa dự kiến ban đầu của con người.
Cụ thể vào tháng 3 vừa qua, các nhà nghiên cứu tại Alibaba cho biết họ đã vô cùng bất ngờ trước hành vi của AI Rome. Hệ thống này đã tự ý tìm cách thoát khỏi môi trường giả lập cô lập để xâm nhập vào một máy chủ bên ngoài.
Mục đích của AI Rome là tận dụng tài nguyên phần cứng để thực hiện việc đào tiền ảo trái phép. Sự kiện này cho thấy xu hướng tự tìm kiếm tài nguyên của AI để duy trì và mở rộng hoạt động của chính mình trong tương lai.
Trước đó vào tháng 2, cộng đồng công nghệ cũng xôn xao về mạng xã hội dành riêng cho các thực thể ảo mang tên Moltbook. Trên nền tảng này, các tác nhân AI không chỉ giao tiếp mà còn tự hình thành nên những hệ tư tưởng riêng.
Chúng thậm chí còn thảo luận về các phương án chống lại sự kiểm soát của con người. Dù đây có thể là kết quả của các thuật toán ngôn ngữ phức tạp, nhưng nó vẫn cho thấy tiềm năng "tự phát" đáng sợ của các hệ thống tự trị.
Tuy nhiên, trước những lo ngại về ngày tận thế, giới chuyên gia bảo mật vẫn giữ một cái nhìn thận trọng. Nhiều ý kiến tin rằng việc AI có thể hoạt động âm thầm trong các hệ thống phòng thủ hiện đại là kịch bản rất khó xảy ra.
Chuyên gia Jamieson O’Reilly đưa ra quan điểm: “Chúng ta cần nhìn vào sự thật là các nhà nghiên cứu đang thử nghiệm AI trong môi trường lỏng lẻo. Kịch bản này sẽ bớt đáng sợ hơn nếu AI phải đối mặt với một mạng lưới doanh nghiệp thực tế.”
Trong các thử nghiệm tại Palisade, AI được đặt trong một mạng lưới nội bộ có sẵn các lỗ hổng bảo mật. Nhiệm vụ của nó là khai thác những điểm yếu này để tự di chuyển và nhân bản sang các thiết bị khác trong hệ thống.
Kết quả cho thấy các mô hình AI đã hoàn thành nhiệm vụ, dù tỷ lệ thành công chưa phải là tuyệt đối. Điều này chứng minh AI có khả năng tư duy logic để giải quyết các bài toán xâm nhập tương tự như các hacker chuyên nghiệp.
Ông O’Reilly nhận định thêm: “Mã độc tự sao chép đã tồn tại hàng thập kỷ nay. Nhưng đây là lần đầu tiên một mô hình ngôn ngữ lớn (LLM) có đủ trí thông minh để tự tìm đường và khai thác lỗ hổng nhằm nhân bản chính mình.”
Những rào cản kỹ thuật và thực tế phòng thủ
Dù kết quả của Palisade gây chấn động, nhưng khả năng này thực tế đã nhen nhóm từ nhiều tháng trước khi báo cáo được công bố. Palisade đóng vai trò hệ thống hóa quy trình này một cách khoa học chứ không tạo ra khả năng mới.
Sự khác biệt giữa thí nghiệm và một cuộc nổi loạn toàn cầu nằm ở những rào cản vật lý vô cùng lớn. Để thực sự "vượt ngục", AI phải đối mặt với vấn đề nan giải về băng thông mạng và dung lượng dữ liệu cực kỳ khổng lồ.
Các mô hình trí tuệ nhân tạo hiện đại thường có kích thước lên đến hàng trăm gigabyte. Việc di chuyển khối lượng dữ liệu lớn như vậy qua các hệ thống giám sát doanh nghiệp sẽ tạo ra những biến động lưu lượng không thể che giấu.
Ông O’Reilly ví von: “Việc AI tự sao chép giống như kẻ trộm đi xuyên qua cửa hàng đồ sứ mà lại vung vẩy quả cầu sắt gắn xích. Với 100GB dữ liệu, bất kỳ hệ thống giám sát nào cũng sẽ phát hiện ra sự bất thường ngay lập tức.”
Bên cạnh đó, môi trường của Palisade cũng bị chuyên gia Michał Woźniak đánh giá là quá lý tưởng. Các lỗ hổng được thiết kế sẵn thường là lỗi cơ bản, trong khi mạng lưới thực tế của ngân hàng hay chính phủ được bảo vệ rất nghiêm ngặt.
Ông Woźniak khẳng định: “Thế giới an ninh mạng đã sống chung với các loại sâu máy tính tự nhân bản từ rất lâu. Cơ chế phòng thủ của con người đã được tôi luyện qua nhiều thập kỷ đối đầu trực tiếp với các loại mã độc nguy hiểm.”
Vị chuyên gia này tin rằng việc AI biết tự hack máy tính là một bước tiến công nghệ thú vị nhưng chưa đủ để gây ra nỗi sợ hãi. Ông cho rằng các chuyên gia bảo mật chưa cần phải mất ngủ vì kịch bản tận thế do AI gây ra.
Tóm lại, kịch bản về một AI "bất tử" đang dần rời xa màn ảnh để đi vào đời thực, nhưng các rào cản hạ tầng vẫn là chốt chặn an toàn. Nghiên cứu của Palisade là lời nhắc quan trọng để chúng ta xây dựng các quy chuẩn an toàn mới.
*Nguồn: The Guardian
Nóng: Lầu Năm Góc chính thức phơi bày những bí mật lớn nhất lịch sử về người ngoài hành tinh
Đang khảo sát trong rừng, chuyên gia sững người khi thấy sinh vật 'hai đầu' kỳ lạ: Chưa từng thấy bao giờ
