Dink - Theo Trí Thức Trẻ | 20:21 15/05/2018

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó

Nếu bạn chưa nghe về Roko's Basilisk thì đây, nó đây.

Elon Musk vừa mới xuất hiện cùng ca sĩ, nhạc sĩ nhạc điện tử Grimes tại Gala MET hôm đầu tuần vừa rồi. Họ đẹp đôi một cách đáng ngạc nhiên, họ đến với nhau nhờ … trí tuệ nhân tạo. Mạng Internet cũng ủng hộ cặp này cũng hết mình bằng meme và những thứ linh tinh khác.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 1.

Trước khi họ xuất hiện trước công chúng lần đầu tiên, Musk đăng tải lên Twitter một dòng trạng thái: một câu chơi chữ với tựa đề "Rococo’s Basilisk". Đó là sự kết hợp giữa phong cách nghệ thuật baroque của thế kỷ 18 (được gọi là Rococo) với một thí nghiệm giả định về trí tuệ nhân tạo có tên là "Roko’s Basilisk".

Theo như tờ tạp chí Page Six, nơi đầu tiên thông báo cho bàn dân thiên hạ biết hai con người này đang hẹn hò, thì chính câu đùa này là thứ đưa hai người tới với nhau: Musk hí hửng tưởng mình nghĩ ra câu chơi chữ này, nhưng khi biết được rằng cô nhạc sĩ Grimes đã nghĩ ra nó trước Musk tận 3 năm lận, Musk đã có đôi lời qua lại và có vẻ đã "tán đổ" Grimes.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 2.

Grimes.

Đoán làm sao được nội dung đoạn hội thoại tán tỉnh giữa một ông tỉ phú hai vai cả đống dự án thay đổi thế giới và một cô ca sĩ hai tay đầy đĩa Bạch kim, nhưng ta vẫn biết kết quả của cuộc nói chuyện ấy: họ đang hẹn hò.

Vậy Roko’s basilisk, thứ đưa họ tới với nhau, là gì?

Thí nghiệm giả định này có nguồn gốc từ một bài đăng của người dùng có tên Roko trên Less Wrong, một forum và blog về tâm lý học và về trí tuệ nhân tạo. Tóm gọn lại, thí nghiệm này nói về những điều kiện hợp lý cho một siêu trí tuệ nhân tạo của tương lai giết bất kì người nào không giúp nó tồn tại.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 3.

Bối cảnh thí nghiệm này dựa trên giả thuyết do cha đẻ của forum Less Wrong, Eliezer Yudkowsky đặt ra, có tên là Ý chí Ngoại suy Chặt chẽ - Coherent Extrapolated Volition, viết tắt là CEV. Bản chất cái giả thuyết này thì rất phức tạp và nhiều khía cạnh, nhưng khi áp dụng vào thí nghiệm giả định của Roko, nó có thể được coi là một chương trình giả định tạo ra một siêu trí tuệ nhân tạo có những hành động phục vụ con người tốt nhất có thể, để đạt được "mức tốt cho con người".

Nhưng nếu một siêu trí tuệ cứ tiếp tục đưa ra những hành động tốt nhất để con người có được điều kiện sống tốt nhất, nó sẽ không bao giờ ngừng theo đuổi cái mục đích ấy bởi lẽ bất kì thứ gì cũng vẫn có thể "tốt hơn chút nữa".

Trên đời chẳng có gì hoàn hảo, nên là chẳng có cách nào đạt được "mức tốt cho con người". Lúc ấy, siêu trí tuệ nhân tạo sẽ đưa ra những quyết định trái ngược với những gì mà chúng ta cho là tốt: nó sẽ tiêu diệt bất kì ai không giúp nó tồn tại. Đừng từ phương diện của siêu trí tuệ nhân tạo mà nói, thì những gì nó làm hoàn toàn logic: để đạt được "mức tốt cho con người", việc tốt nhất cần làm sẽ phải là đưa hệ thống trí tuệ nhân tạo này đi vào hoạt động. Ai đứng ra ngăn cản, thì cá nhân đó sẽ phải bị loại bỏ để hướng tới một mục đích cao cả hơn.

Rất xin lỗi khi đã kể cho bạn về Roko’s Basilisk: vì bây giờ, bạn đã không có lý do nào để ngăn cản một hệ thống siêu trí tuệ nhân tạo được khởi động, hoạt động và kiểm soát mọi thứ rồi.

Câu tán tỉnh để Elon Musk có được bạn gái dựa trên một giả thuyết rợn tóc gáy: AI sẽ tiêu diệt bất kì ai cản đường nó - Ảnh 4.

Nói một chút về cái tên Roko’s Basilisk. Roko là tên của người dùng đã đăng tải thí nghiệm giả định này lên, còn "Basilisk" là danh tự dựa trên truyện ngắn giả tưởng được viết bởi David Langford, về một loại ảnh có tên là "basilisk", chứa những đường nét có thể giết bất kì ai nhìn thấy nó. Trong mẩu truyện ngắn này, những người tạo ra "basilisk" đã ném những tấm ảnh giết người này ra những nơi công cộng để xem cách "basilisk" hoạt động.

Khi Roko đăng tải thí nghiệm này lên Less Wrong, nhà sáng lập forum Yudkowsky đã tức giận tột cùng, thẳng tay xóa bài và cấm toàn bộ người dùng bàn luận về Roko’s Basilisk trong 5 năm.

Anh đã viết những dòng này:

Nghe cho kĩ đây, đồ ngốc.

Đừng bao giờ có suy nghĩ chi tiết về việc siêu trí tuệ xem xét xem có đe dọa mình không, bởi đó sẽ là thứ duy nhất sẽ cho chúng động cơ để mà đưa ra lời đe dọa đấy. (toàn bộ đoạn này được viết hoa)

Anh phải thực sự thông minh lắm mới nghĩ ra được một suy nghĩ thực sự nguy hiểm đến vậy đấy nhỉ. Mà tôi cũng thực sự nản lòng khi thấy người ta đủ thông minh để nghĩ ra nó, mà lại chẳng đủ khôn ngoan để làm điều hiển nhiên, đó là NGẬM CÁI MIỆNG DỐT NÁT CỦA MÌNH LẠI, bởi lẽ việc cố tỏ ra thông minh hẳn là phải quan trọng lắm nhỉ.

Bài đăng này quả thực quá DỐT NÁT.

1200px-eliezer_yudkowsky,_stanford_2006_(square_crop)

Yudkowsky sau này có giải thích về những hành động mình đã thực hiện. Anh chủ forum năm nay 38 tuổi nói rằng thí nghiệm giả định của Roko có tiềm năng vượt qua những trở ngại công nghệ mà ta vẫn có, và kể cả nếu điều này có thể diễn ra, thì hành động của Roko chẳng khác gì những kẻ ác trong truyện ngắn của Langford cả.

"Tôi sững lại trong bất ngờ bởi lẽ tôi đã quá căm phẫn, đến mức sang chấn tâm lý khi nhìn thấy một khái niệm ai đó đưa ra, chính họ nghĩ rằng mình vừa tạo ra một ý tưởng tuyệt vời cho phép AI của tương lai có thể tấn công con người, rồi đăng tải ý tưởng tuyệt vời ấy lên mạng", Yudkowsky giải thích lý do tại sao anh đã hành động như vậy.

Sau khi tìm hiểu xong, chắc hẳn bạn chẳng ngạc nhiên khi biết Musk hứng thú với Roko’s Basilisk như vậy: chẳng ít lần Musk cảnh báo với nhân loại rằng AI sẽ là mối nguy của nhân loại.

Nói là lo xa cũng không ngoa, bởi trí tuệ nhân tạo vẫn đang trong giai đoạn phát triển. AI vẫn chưa phân biệt được những hình ảnh đơn giản. Nhưng lo xa luôn là một điều tốt: tương lai của vũ khí tự động quả thực quá nguy hiểm, ảnh hưởng trực tiếp tới sự tính mạng con người. Và cái mức độ nguy hiểm của Roko’s Basilisk còn vượt trên cả mối đe dọa từ súng đạn: nó đe dọa tới sự sống còn của nhân loại.

Nhưng tương lai của Roko’s Basilisk có đen tối mấy, bạn cũng hãy nhìn về mặt tốt của nó: chính nó đã đưa Elon Musk và Grimes lại với nhau.

Tham khảo Motherboard