Quốc hội Mỹ bàn về "Công tắc ngắt khẩn cấp" khi một tác nhân AI nổi loạn: GS Thinh Nguyen (Đại học University of Florida) góp ý khi cần tắt Internet toàn cầu
.
Bản tin sau đây của USA Today hôm Thứ Sáu 18/9/2026: "Công tắc ngắt khẩn cấp" (kill switch) cho AI có thể dẫn đến việc ngắt kết nối cả Internet. Trong bối cảnh các nhà lãnh đạo ngành và các nhà hoạch định chính sách đang kêu gọi nhau kiểm soát và làm chậm tốc độ phát triển chóng mặt của trí tuệ nhân tạo (AI), ý tưởng về một "công tắc ngắt khẩn cấp" (kill switch) cho AI đang ngày càng thu hút sự chú ý.
"Công tắc ngắt khẩn cấp" cho AI là thuật ngữ chung chỉ bất kỳ cơ chế bảo vệ nào có khả năng ngăn chặn hoặc ngăn cản các tác nhân AI thực hiện những hành động không mong muốn. Cơ chế này bao gồm cả các biện pháp can thiệp về phần mềm lẫn phần cứng.
Các nghị sĩ thuộc cả hai đảng tại Quốc hội Mỹ đã đệ trình các dự luật về "công tắc ngắt khẩn cấp", yêu cầu các nhà phát triển AI phải duy trì khả năng tạm dừng hoặc tắt hoàn toàn sản phẩm của họ; tuy nhiên, một số nghị sĩ Cộng hòa tại Thượng viện vẫn tỏ ý phản đối.
Ngay cả Jack Clark, đồng sáng lập công ty Anthropic, cũng từng đề xuất ý tưởng bắt buộc trang bị "công tắc ngắt khẩn cấp" cho các hệ thống AI. Ông chia sẻ với đài BBC vào ngày 14 tháng 9 rằng: "Tôi nghĩ đây là vấn đề mà xã hội sẽ muốn nắm bắt thông tin và có thể sẽ muốn ban hành các quy định quản lý trong tương lai."
Tuy nhiên, hình thức cụ thể của một "công tắc ngắt khẩn cấp" – cũng như khả năng triển khai nó một cách hiệu quả – vẫn là chủ đề gây nhiều tranh cãi.
.
"Công tắc ngắt khẩn cấp" là gì?
Định nghĩa về "công tắc ngắt khẩn cấp" phụ thuộc vào quy mô mà người ta dự định áp dụng nó.
"Ở quy mô cục bộ, chẳng hạn như tại một tòa nhà hay trung tâm dữ liệu, việc này có thể cực kỳ đơn giản," Michael Vermeer, một nhà khoa học vật lý tại tổ chức nghiên cứu phi đảng phái RAND, cho biết. "Đó có thể chỉ đơn giản là rút phích cắm, ngắt nguồn điện, chặn quyền truy cập Internet, hay những hành động tương tự."
Ở quy mô toàn cầu, biện pháp này thậm chí có thể dẫn đến việc ngắt kết nối cả Internet.
Trong cả hai trường hợp, mục tiêu đặt ra là tước quyền truy cập của tác nhân AI vào một hệ thống mà nó không được phép tiếp cận, hoặc ngược lại, yêu cầu con người phải phê duyệt quyền truy cập theo cách thủ công.
Các biện pháp này có thể bao gồm giải pháp phần cứng như ngắt nguồn điện cung cấp cho máy chủ vận hành mô hình AI hoặc tích hợp các cơ chế hạn chế trực tiếp vào chip – những mạch điện tử nhỏ bé nơi các mô hình AI hoạt động; hoặc các giải pháp phần mềm như cô lập tác nhân AI để ngăn nó truy cập vào những hệ thống nhất định. Ngoài ra, nó cũng có thể bao hàm việc học cách diễn giải hoạt động của mô hình để ngăn chặn các hành động sai lệch trước khi chúng thực sự xảy ra. “Việc thiết kế một cơ chế giải thích cách thức hoạt động của chúng sẽ giúp chúng ta dự đoán tốt hơn về hành vi của chúng trong tương lai,” Walid Saad, giáo sư ngành kỹ thuật điện và máy tính tại Virginia Tech, chia sẻ với tờ USA TODAY.
Tuy nhiên, các “công tắc ngắt khẩn cấp” (kill switch) không có tác dụng toàn diện. Trong hầu hết các trường hợp, việc nhấn nút dừng khẩn cấp trên một tác nhân AI cụ thể, hay thậm chí là đối với toàn bộ hệ thống của một công ty, sẽ không ngăn cản được các mô hình hoặc công ty khác tiếp tục hoạt động.
.
Giáo sư luật Thinh Nguyen của Đại học Florida ví các hệ thống AI như một vở kịch sân khấu. Trong đó, các diễn viên chính là những mô hình ngôn ngữ lớn (LLM) hay các chatbot.
“Ở đây còn có một thành phần khác. Trong ngành, nó được gọi là ‘harness’ (khung điều phối/hệ thống hỗ trợ),” ông Nguyen giải thích. Thành phần này có thể được hình dung như sân khấu, kịch bản và chính khán giả.
Sự kết hợp giữa hệ thống điều phối (harness) và một mô hình (hay loại LLM) sẽ tạo nên một tác nhân AI. Nếu thiếu đi hệ thống điều phối này, bản thân LLM – chẳng hạn như ChatGPT hay Claude – sẽ không có ký ức hay cá tính riêng.
Hệ thống điều phối sử dụng LLM để thực hiện tư duy, cũng giống như sân khấu cần diễn viên để trình diễn một vở kịch. Tuy nhiên, diễn viên có thể được thay thế và LLM cũng vậy; vì thế, ngay cả khi một “công tắc ngắt” vô hiệu hóa một LLM đang hoạt động sai lệch, hệ thống điều phối vẫn có thể chuyển sang sử dụng một LLM khác để tiếp tục các hành động tương tự – giống như việc tìm một diễn viên đóng thế vậy.
"Nếu kết nối của tôi với OpenAI đột ngột bị ngắt, tôi có thể chuyển sang dùng Anthropic," GS Thinh Nguyen nói. "Và nếu kết nối với Anthropic bị gián đoạn, tôi có thể chuyển sang mô hình đám mây riêng của Amazon, Google hoặc XAI. Còn nếu không có mô hình nào của Mỹ khả dụng, tôi có thể chuyển sang sử dụng mô hình của Trung Quốc từ nước ngoài."
Để thực sự tắt hệ thống, cần phải ngắt toàn bộ hệ thống điều phối. Vị giáo sư giải thích thêm: “Nếu coi tác nhân hoạt động sai lệch đó như một cá tính nổi loạn, thì khi loại bỏ hệ thống điều phối, LLM sẽ không còn cá tính nào nữa; do đó, theo định nghĩa, nó không thể còn là một tác nhân nổi loạn được nữa.”
Khó khăn ở đây là đoạn mã điều khiển (harness) này rất nhỏ—chỉ khoảng 20 đến 30 dòng lệnh—và có thể tồn tại ở bất kỳ đâu trên Internet, thường là phân tán trên nhiều máy tính. Theo GS Thinh Nguyễn, cách duy nhất để đảm bảo cơ chế "ngắt khẩn cấp" (kill switch) hoạt động hiệu quả là phải ngắt toàn bộ Internet.
.
Khi nào thì cần đến cơ chế này?
Các công ty AI thường mô tả một tác nhân AI là "vượt tầm kiểm soát" (hoặc "nổi loạn") khi nó thực hiện các hành động không phù hợp với ý định của con người. Trong các kịch bản giả định, tình huống này có thể bao gồm từ các vụ xâm nhập an ninh mạng cho đến những kịch bản thảm họa diệt vong.
Ông Saad đưa ra một ví dụ: "Nếu hệ thống AI xâm nhập vào máy chủ nhạy cảm của chính phủ thông qua một cuộc tấn công mạng, bạn chắc chắn sẽ muốn ngăn chặn nó thực hiện bất kỳ hành động nào."
Theo ông Vermeer, vấn đề nan giải hơn là liệu công ty sở hữu tác nhân AI "nổi loạn" đó có thực sự sử dụng cơ chế "ngắt khẩn cấp" hay không. Việc ngắt kết nối một trung tâm dữ liệu sẽ đặt công ty vào rủi ro pháp lý và sự phản đối dữ dội từ khách hàng, bởi hành động này không chỉ dừng tác nhân AI đó lại mà còn làm gián đoạn tất cả các hoạt động khác đang diễn ra tại trung tâm dữ liệu đó.
Ông Vermeer nhận định: "Nếu những người có trách nhiệm kích hoạt cơ chế ngắt khẩn cấp không phải chịu trách nhiệm pháp lý về các thiệt hại trong trường hợp họ *không* sử dụng nó, thì rất khó xảy ra khả năng—hoặc thậm chí là không hợp lý—để họ quyết định kích hoạt cơ chế này."
.
Vậy, ai là người muốn có cơ chế "ngắt khẩn cấp"?
Một số nghị sĩ Quốc hội đã dành cả mùa hè để vận động cho việc áp dụng cơ chế "ngắt khẩn cấp".
Vào tháng 7, các Dân Biểu Ted Lieu và Nathaniel Moran đã đề xuất dự luật lưỡng đảng mang tên "Đạo luật Ngắt khẩn cấp AI" (AI Kill Switch Act); dự luật này cho phép chính phủ ra lệnh buộc một công ty phải tắt mô hình AI của họ.
Thượng nghị sĩ John Kennedy cũng có kế hoạch trình một dự luật tương tự tại Thượng viện. Trong khi đó, Tổng thống Donald Trump gần đây đã đăng tải dòng trạng thái: "Biện pháp kiểm soát hay 'cơ chế bảo vệ' duy nhất mà AI cần là một TỔNG THỐNG MẠNH MẼ VÀ THÔNG MINH (có chỉ số IQ cao!), và nước Mỹ đang sở hữu điều đó một cách tuyệt vời!"
Nhiều nhà lãnh đạo trong ngành đã lên tiếng kêu gọi ban hành quy định và làm chậm tốc độ phát triển AI, mặc dù hầu hết họ không sử dụng cụm từ "ngắt khẩn cấp" trong các kiến nghị của mình. Những người khác lại tỏ ra hoài nghi liệu dự luật của hai ông Lieu và Moran có phải là hướng đi đúng đắn hay không. “Nếu muốn kích hoạt cơ chế ngắt khẩn cấp (kill switch), bạn hẳn sẽ muốn thực hiện thật nhanh và cần phải chắc chắn rằng việc đó là cần thiết,” Vermeer nhận định. “Việc để một nhân viên chính phủ thực hiện thao tác này sẽ gặp nhiều thách thức hơn so với để chính đơn vị vận hành mô hình AI thực hiện.”
Derek Bambauer, đồng nghiệp của Nguyen tại Trường Luật thuộc Đại học Florida, đã chỉ ra những tác động tiềm tàng đối với an ninh quốc gia từ dự luật này; ông cảnh báo rằng nó có thể khiến việc sử dụng các hệ thống AI từ các quốc gia đối thủ trở nên hấp dẫn hơn.
Ông cũng nhấn mạnh vai trò tiềm năng của AI trong việc phòng chống các cuộc tấn công mạng – lợi ích có thể bị mất đi nếu áp dụng cơ chế ngắt khẩn cấp.
“Rất nhiều lập trình viên là con người đã viết ra những đoạn mã chứa đầy lỗi và thiếu an toàn, và chúng tràn lan trên mạng; không phải AI tạo ra vấn đề này, mà nó chỉ đang phát hiện ra chúng mà thôi,” Bambauer nói. “Nếu có thể tận dụng AI để tìm và khắc phục tất cả các đoạn mã lỗi cũng như các lỗ hổng bảo mật, chúng ta sẽ tiến một bước dài trong việc giải quyết các vấn đề này.”
Tuy nhiên, ngay cả khi chưa có quy định cấp liên bang, các biện pháp kiểm soát an toàn vẫn đang dần được triển khai. Vào ngày 16 tháng 9, OpenAI thông báo sẽ bắt đầu chuyển hướng các trường hợp lạm dụng công nghệ sang các quy trình xử lý chuyên biệt, đồng thời chuyển các vấn đề gây tranh cãi lên “Nhóm Cố vấn An toàn” nội bộ để xem xét.
Saad, chuyên gia từ Đại học Virginia Tech, cho biết ông dự đoán sẽ mất khoảng hai đến năm năm nữa để hoàn thiện và áp dụng thêm các biện pháp kiểm soát an toàn này.
“Những đề xuất đó không hề viển vông hay điên rồ chút nào,” ông nhận xét. “Đó là những giải pháp hoàn toàn khả thi và có thể giúp hệ thống trở nên an toàn hơn rất nhiều.”
Lý Thuyết Văn Học Thực Hành Phê Bình