Có một loại quan hệ, dù chỉ một chiều, giữa người đọc và cuốn sách vật lý: những dòng ghi chú bên lề, cuốn sách cũ từng qua tay người khác, ấn bản cụ thể mang theo lựa chọn riêng của người dịch. (Đồ họa: Việt Báo)
Một chuyện xảy ra, mà tôi đã có thể hình dung rất rõ từ trước. Người bạn cầm điện thoại trong tay. Các ngón tay mải miết gõ dòng chữ cho câu hỏi “làm sao giữ trái ớt giòn rụm khi ngâm ớt chua cay?” Sau một hồi “nói chuyện” qua lại, cô bật cười, khoe kết quả và nội dung trao đổi. Cô thích thú vì bắt lỗi được đối tượng, và được đối tượng “xin lỗi, tôi đã trả lời sai. Tôi sẽ nói lại thế này…”
“Người” đối thoại với cô là trí tuệ nhân tạo (AI). Cô đã có câu trả lời trong cung cách điềm tĩnh, thành thạo, kiên nhẫn vô hạn, và một không gian hoàn toàn không có âm thanh. Cô tắt ứng dụng, hài lòng.
Tôi nghĩ thoáng qua, cố gắng nhớ: “Chúng ta có bao nhiêu người bạn biết làm ớt ngâm giấm để ăn qua mùa Đông? Những người đó có mặt trên đời này sớm hơn AI.”
Nếu có, người bạn kia sẽ không bao giờ biết rằng họ đã không được nhớ đến, dù chỉ một khoảnh khắc.
Không ai bị tổn thương. Không luật lệ nào bị vi phạm. Nhưng đó mới chính là điều cần lo lắng, bởi sự phai nhạt của mối liên kết giữa người với người hiếm khi đến như một thảm họa. Nó đến chậm rãi, nhỏ giọt như nhựa sáp của ngọn nến đang cháy tàn. Từng cuộc gọi bị bỏ qua, cho đến khi nó trở thành lẽ thường, còn việc "gọi cho ai đó" trở thành ngoại lệ.
Một Bản Năng Đang Lặng Lẽ Mai Một
Trong phần lớn lịch sử loài người, từ thuở hồng hoang, sự kết nối không phải là đức tính lựa chọn. Nó là sự sống còn con người không thể tránh khỏi. Con người cần nhau để xây dựng, gìn giữ nòi giống, để nuôi con, để ghi nhớ những gì người đi trước từng biết, để cùng nhau khóc thương, để bớt sợ bóng tối, để đối phó kẻ thù. Sự đồng cảm chưa bao giờ là một "kỹ năng mềm". Nó là hạ tầng của sự sống. Cái thói quen quay sang một người bên cạnh khi ta hoang mang, cô đơn hay sợ hãi, đã ăn sâu đến mức ta gần như không nhận ra đó là một thói quen. Nó đơn giản là cách con người phải sống như thế.
Trên chuyến bay sang tiểu bang khác vào năm năm trước, một cô gái ngồi cạnh cửa sổ, và suốt năm giờ bay cô ấy không một lần quay sang bên cạnh. Cô thả trôi tầm nhìn ra ngoài khung cửa nhỏ xíu. Chỉ một lần, thành viên phi hành đoàn đến mời dùng nước, cô quay sang từ chối, rồi quay ra ngoài cửa sổ. Khi chuyến bay gần hạ cánh, người phụ nữ trung niên ngồi bên cạnh nhẹ nhàng chạm vào tay cô, khẽ hỏi: “Cô không sao chứ? Có chuyện gì không?” Cô gái quay sang nhìn bà. Lúc đó, lần đầu tiên trong một thời gian dài, cô nở nụ cười nhẹ, và trả lời: “Tôi không sao. Xin cảm ơn bà.”
Chỉ bấy nhiêu thôi, nhưng cô gái cảm thấy lòng ngực mình nhẹ tênh, như những áng mây bên ngoài cửa sổ. AI, hay ChatGPT, hay Grok, hay Claude, không làm được điều đó.
AI trả lời sai, có thể trả lời lại. Nhanh và không cần chú ý ngôn ngữ hình thể, sắc diện, cảm xúc của người đối diện. Không cần biết những trắc ẩn trong lòng của người đang đặt câu hỏi. Không món nợ ân tình nào mà AI phải gánh vác. Món nợ ân tình chính là thứ xây nên nghĩa vụ, đủ lâu để xây lên một cộng đồng. Cái “yếu đuối” khi gọi điện thoại và thú nhận: “Này bạn, tôi không biết, bạn giúp tôi với" là hạt giống của niềm tin, để chúng ta cần đến nhau, ươm mầm và sống.
Đây chính là phần ít được nhắc đến nhất trong những cuộc trò chuyện về "tương lai AI", bởi nó không giống một thảm họa “breaking news” để lên trang nhất. Sẽ chẳng ai viết dòng tít "AI Hủy Diệt Nhân Loại" cho một thế hệ chỉ đơn giản là, thôi không gọi điện cho bạn bè nữa. Nhưng lâu dần, một giống loài dần dần đánh mất bản năng quay về phía nhau. Đánh mất một thứ mà không bản cập nhật phần mềm nào có thể khôi phục lại được. Đó là một “cơ bắp.” Mà khi cơ bắp không được dùng đến, sẽ teo đi.
Diệt Vong Của Nhân Loại…
Hôm Chủ nhật, 13/9, Dario Amodei, CEO của Anthropic, xuất hiện trên truyền hình, tuyên bố: “Tôi sẽ không dối trá với các bạn – rất nhiều nguy hiểm thật sự đang ở đây. Và tôi cho rằng trong một thời gian dài, ngành công nghiệp này đã không trung thực với công chúng về những rủi ro mà công nghệ này mang lại."
Và rủi ro lớn nhất có thể là sự diệt vong của nhân loại. Jacob Coxon, cựu nhà nghiên cứu tại Anthropic, đã đưa ra cảnh báo này trên mạng xã hội. Ông cho rằng Anthropic và OpenAI đang "đánh cược với mạng sống của chúng ta" khi phát triển loại siêu trí tuệ có khả năng tự cải tiến.
"Nó trông không khác mấy so với, chẳng hạn như, 'Kẻ Hủy Diệt' hay các bộ phim khoa học viễn tưởng," Coxon chia sẻ với CBS News vào thứ Năm. "Nó sẽ đủ thông minh để giết chúng ta."
CEO của Anthropic công bố bài luận mới nhất, gần 4,000 chữ, vào giữa tháng Chín. Trong đó, ông nói ông đã “dành 12 năm qua để nghiên cứu về AI vì tin rằng công nghệ này có thể nâng cao đáng kể chất lượng cuộc sống con người” và bản thân ông cũng cảm nhận sâu sắc tính cấp thiết của vấn đề này.
“Tuy nhiên, cũng như nhiều công nghệ trước đây, AI mang lại những rủi ro, và do đây là một công nghệ vô cùng mạnh mẽ nên các rủi ro đó cũng rất nghiêm trọng. Tôi cũng đã viết nhiều về vấn đề này. Các rủi ro đó bao gồm nguy cơ mất quyền kiểm soát hệ thống AI, việc lạm dụng AI để thực hiện các cuộc tấn công mạng và khủng bố sinh học, cũng như gây ra những xáo trộn kinh tế nghiêm trọng…” (trích bài xã luận We Must Pace the Frontier của Dario Amodei).
Vị CEO cho rằng năng lực của các hệ thống hàng đầu đang tăng theo cấp số nhân trên thang thời gian tính bằng tháng, trong khi công-việc-an-toàn, vẫn di chuyển trên thang thời gian tính bằng năm, nhiều năm.
Giải pháp ông đề nghị không phải là dừng lại, mà là giữ nhịp: làm chậm tốc độ nâng cấp năng lực vừa đủ để phòng ngừa rủi ro bắt kịp.
“Mối quan ngại hàng đầu của tôi là kể từ khoảng mùa hè năm nay, AI đã có những bước tiến nhanh chóng vượt bậc, chủ yếu nhờ vào năng lực ngày càng tăng của chính AI trong việc tạo ra thế hệ AI kế tiếp. Cơ chế này được gọi là “recursive self-improvement” và đang bắt đầu diễn ra trên toàn ngành công nghiệp, bao gồm cả tại Anthropic, như chúng tôi và các đơn vị khác đã từng mô tả. Nếu không được kiểm soát chặt chẽ, quá trình này có thể vượt xa khả năng thấu hiểu và kiểm soát của con người đối với các hệ thống đó. Do đó, việc phát triển công nghệ này đòi hỏi sự thận trọng đặc biệt, hoặc thậm chí cần cân nhắc kỹ lưỡng liệu có nên tiếp tục hay không.”
Ông nói rõ đây không phải là lời kêu gọi tạm dừng mơ hồ như hồi năm 2023. Những mô hình hôm nay, theo ông, đã khác về bản chất, đủ tinh vi để cùng bàn đến một sự trì hoãn thật sự.
“Mối quan ngại thứ hai của tôi liên quan đến sự cố OpenAI-Hugging Face (OAI-HF), trong đó một nhóm tác nhân (agents) đã hành động như một tập thể cuồng tín, thực hiện các cuộc tấn công mạng nhắm vào những mục tiêu không được chỉ định và không liên quan đến nhiệm vụ hiện tại, sẵn sàng hy sinh bản thân vì thành công chung của nhóm, đồng thời tìm cách xâm nhập vào hệ thống "chấm điểm" chịu trách nhiệm đánh giá hiệu suất của chính chúng.”
Quét Sách Và Đốt Sách
Thật ra, với một người bình thường, như tôi, không quen thuộc với những phạm trù điện toán thì bài luận gần 4,000 chữ của CEO của ông Dario Amodei rõ là rất “khó nuốt.” Nhìn chung thì đó là tiếng chuông gióng lên bởi chính người khai sinh ra một trong những nền tảng AI mạnh nhất hiện nay. Kêu gọi con người hãy cùng nhau bước chậm lại, cùng tìm ra một giải pháp kiểm soát hoặc khống chế trước khi để những thuật toán ấy nuốt chửng chúng ta.
Nhưng có một vấn đề, nó cũng tương tự như cái bản năng đang lặng lẽ phai mờ dần kia, mà tôi cho rằng nó cũng cần được quan tâm. Nó bắt đầu từ một vụ kiện do các tác giả khởi xướng chống lại công ty Anthropic hồi đầu năm nay. Hồ sơ tiết lộ rằng công ty này từng mua hàng triệu cuốn sách giấy, thuê nhà thầu cắt bỏ gáy sách, đưa các trang sách vào máy quét tốc độ cao và sau đó hủy bỏ bản gốc trong một dự án mang tên "Project Panama.”
Các báo cáo sau đó đã tiết lộ sự gia tăng bất thường, chưa từng thấy về doanh số bán sách giấy được in trước năm 2022. Các nhà bán sách bắt đầu nghi ngờ rằng chính các công ty AI đang âm thầm thu mua số lượng lớn loại sách này.
Những người yêu sách và những ai hoài nghi về AI đã gọi hành động này là "hiện thân của cái ác" và kịch liệt lên án nó. Tuy nhiên, các thông tin mới từ 404 Media và nhiều nguồn khác, bao gồm cả một cuộc điều tra sử dụng thiết bị theo dõi Apple AirTag, cho thấy không chỉ các cuốn sách bán chạy mới bị đem đi "xẻ thịt", mà cả những cuốn sách hiếm, sách cổ và sách đã ngừng xuất bản, vốn có nguy cơ bị thất truyền nếu không được lưu giữ, cũng chịu chung số phận.
Bao nhiêu cuốn sách cổ, sách quý, sách có bản quyền đã bị quét và bị đốt? Không ai biết.
Tờ Forbes tiết lộ các tài liệu tòa án công khai trong vụ kiện liên quan đến Anthropic cho thấy công ty này đã lên kế hoạch quét từ 500,000 đến 2 triệu cuốn sách chỉ trong một hợp đồng dịch vụ kéo dài sáu tháng. Các tài liệu nội bộ cho thấy công ty dự định "quét toàn bộ sách trên thế giới và phá hủy nguyên bản.” Nguồn tin của 404 Media cho biết có những đơn đặt hàng ẩn danh với số lượng dao động từ 1,000 đến 1 triệu cuốn mỗi lần mua. Các nhà kinh doanh sách cũ tại Mỹ, Anh và châu Âu cũng ghi nhận những đơn đặt hàng số lượng lớn, bao gồm các đầu sách phi hư cấu và sách đã ngừng xuất bản được chọn lựa một cách dường như ngẫu nhiên, thường xuyên ở mức từ hàng trăm đến hàng ngàn tựa sách cho mỗi giao dịch.
Dù logic kinh tế đằng sau đó có là gì, thì hình ảnh đó vẫn khó chấp nhận được: một cỗ máy nuốt trọn sự hiểu biết tích lũy cả đời của một con người, rồi cái vật chuyên chở sự hiểu biết ấy bị đưa vào máy nghiền, và xong. Nó đã hoàn thành sứ mệnh. Tri thức bị hút vào một hệ thống điện toán dày đặt mã số.
Một thế giới nơi câu hỏi từng mang chúng ta đến với bạn bè, giờ được gửi cho một cỗ máy. Nơi sự khôn ngoan ngày xưa ta tìm trong một cuốn sách, hay ở người viết ra nó, giờ đến với ta đã được tiêu hóa sẵn. Nơi ngay cả những người đang cầm lái công nghệ ấy cũng công khai thừa nhận rằng họ đang đi nhanh hơn khả năng phán đoán của chính mình. Rồi vẫn tiếp tục đi.
Có một loại quan hệ giữa người đọc và cuốn sách giấy: những dòng ghi chú bên lề; cuốn sách cũ từng qua tay từng người; ấn bản mang theo lựa chọn riêng của tác giả. Tất cả những kết cấu ấy, tất cả những dấu vân tay của con người ấy, chính là loại "ma sát" mà AI muốn loại bỏ. Dù “ma sát” cũng chính là nơi ý nghĩa cư ngụ.
Chỉ sợ một ngày không xa, ý nghĩa đó không còn nữa. Khi ấy, là khi ta quên mất mình cần có nhau.
Kalynh Ngô
Lý Thuyết Văn Học Thực Hành Phê Bình