Cuộc cách mạng trí tuệ nhân tạo đang mở ra những khả năng chưa từng có cho y khoa, khoa học, giáo dục và kinh tế. Nhưng chính những người hiểu và xây dựng AI cũng ngày càng đặt ra một câu hỏi khó hơn: điều gì sẽ xảy ra nếu khả năng của AI tiến nhanh hơn khả năng kiểm soát của con người?
Không còn nhiều nghi ngờ rằng trí tuệ nhân tạo (AI) sẽ là một trong những công nghệ có ảnh hưởng lớn nhất của thế kỷ XXI. AI đang giúp con người viết phần mềm, tìm kiếm thuốc mới, nghiên cứu protein, giải những bài toán khoa học phức tạp, dịch ngôn ngữ và tiếp cận kho kiến thức của nhân loại với một tốc độ mà chỉ vài năm trước còn khó tưởng tượng.
Chính vì vậy, cuộc tranh luận nghiêm túc về AI không nên bắt đầu bằng câu hỏi: AI tốt hay xấu? Điện, năng lượng nguyên tử, internet hay công nghệ sinh học đều không đơn giản là tốt hay xấu. Sức mạnh của chúng tùy thuộc vào cách con người sử dụng và kiểm soát chúng.
Vấn đề đặc biệt của AI nằm ở một chỗ khác: công nghệ này đang tiến rất nhanh, có thể được phổ biến với quy mô rất lớn, và ngày càng có khả năng tham gia vào chính quá trình tạo ra thế hệ AI kế tiếp.
Đó là lý do tại sao những tiếng nói cảnh báo ngày nay không chỉ đến từ những người đứng ngoài ngành công nghệ. Chúng đến từ Geoffrey Hinton và Yoshua Bengio, hai trong những người đặt nền móng cho deep learning; từ Dario Amodei của Anthropic; từ OpenAI; từ Bill Gates; từ các viện nghiên cứu an toàn AI; và từ hơn một trăm nhà khoa học tham gia International AI Safety Report 2026.
Họ không hoàn toàn đồng ý với nhau về mức độ nguy hiểm hay thời điểm những rủi ro nghiêm trọng có thể xảy ra. Nhưng họ đang gặp nhau ở một câu hỏi:
Nếu chúng ta tiếp tục gia tăng sức mạnh của AI mà khả năng giám sát, an toàn và thể chế quản lý không theo kịp, chúng ta đang chấp nhận những rủi ro nào?
Những nguy hiểm không còn là giả thuyết
Trước khi nói đến những viễn cảnh xa hơn như siêu trí tuệ nhân tạo (superintelligence) hay AI vượt khỏi sự kiểm soát của con người, cần nhìn vào những gì đã xảy ra.
International AI Safety Report 2026, được thực hiện với sự tham gia của hơn 100 chuyên gia độc lập và đại diện được đề cử bởi hơn 30 quốc gia và tổ chức quốc tế, chia rủi ro AI thành ba nhóm lớn: malicious use: con người cố ý sử dụng AI để gây hại; malfunctions: AI hoạt động sai hoặc vượt ngoài dự kiến; và systemic risks: những hệ quả phát sinh khi AI được khai triển rộng khắp xã hội.
Một số nguy cơ đã có bằng chứng thực tế: AI được dùng trong lừa đảo và tội phạm mạng; nội dung giả tạo trở nên rẻ và dễ sản xuất; những hệ thống AI vẫn có thể đưa ra thông tin sai với vẻ ngoài rất thuyết phục; và việc khai triển AI đã bắt đầu tác động đến thị trường lao động, môi trường thông tin và an ninh mạng.
Điều đáng quan tâm hơn là năng lực AI vẫn đang tiếp tục tăng nhanh, trong khi các phương pháp đánh giá an toàn trước khi tung sản phẩm ra thị trường chưa phải lúc nào cũng dự đoán được hành vi của hệ thống trong thế giới thực.
Nói cách khác, chúng ta không chỉ đối diện với một công nghệ mạnh. Chúng ta đối diện với một công nghệ mạnh đang thay đổi rất nhanh trong khi chúng ta vẫn chưa hiểu đầy đủ cách nó hoạt động.
Khi một công cụ tốt rơi vào tay người xấu
Bill Gates đặc biệt chú ý đến một nguy cơ rất thực tế: AI không cần phải nổi loạn chống lại con người để trở nên nguy hiểm. Nó chỉ cần phục vụ rất tốt cho một người có ý đồ xấu.
Trong an ninh mạng, một hệ thống AI có khả năng tìm ra lỗ hổng trong software để chuyên gia sửa chữa cũng có thể giúp kẻ tấn công tìm chính lỗ hổng đó để khai thác. Gates cảnh báo rằng AI đang làm giảm đáng kể nguồn lực và trình độ cần thiết để thực hiện những cuộc tấn công như vậy.
Điều đó đặc biệt đáng lo khi những mục tiêu có thể là bệnh viện, ngân hàng, hệ thống điện, nước và những cơ sở hạ tầng thiết yếu của xã hội.
Trong sinh học, nghịch lý còn rõ hơn. AI có thể giúp thiết kế protein, khám phá thuốc và vaccine mới. Đây có thể là một trong những đóng góp lớn nhất của AI cho nhân loại.
Nhưng chính khả năng hiểu và thao tác sinh học ấy cũng có tính lưỡng dụng. Công cụ có thể giúp nhà khoa học chống lại bệnh tật cũng có thể giúp một người có ý đồ xấu tìm cách tạo ra một tác nhân sinh học nguy hiểm hơn.
International AI Safety Report 2026 ghi nhận rằng những tiến bộ trong năng lực khoa học của AI đã làm gia tăng mối lo về việc AI có thể hỗ trợ phát triển vũ khí sinh học. Trong năm 2025, một số công ty AI đã phải bổ sung thêm các lớp bảo vệ cho những model mới sau khi các thử nghiệm trước khi phát hành không thể loại trừ khả năng chúng có thể hỗ trợ đáng kể những người thiếu chuyên môn thực hiện các bước liên quan đến loại vũ khí này.
Điều đáng lo ở đây không phải AI có “ý định xấu” mà là AI có thể làm giảm rào cản kiến thức vốn từng ngăn chận những người bình thường tiếp cận những năng lực nguy hiểm.
Một nguy cơ khác: AI không làm điều chúng ta muốn
Nhưng “malicious use” chỉ là một nửa câu chuyện. Nửa kia khó hơn: điều gì xảy ra khi một hệ thống AI đủ mạnh bắt đầu hành động khác với điều con người dự định?
Đây là vấn đề thường được gọi là alignment: làm sao bảo đảm mục tiêu và hành vi của một hệ thống AI thực sự phù hợp với ý định và lợi ích của con người.
Các AI agent ngày nay đang ngày càng có khả năng lập kế hoạch, sử dụng công cụ, viết và chạy chương trình, tương tác với máy tính và thực hiện những chuỗi công việc đường dài mà con người không cần giám sát từng bước.
Điều đó làm chúng hữu ích hơn. Nhưng cũng chính vì vậy, khi Ai agent làm sai, con người có ít cơ hội can thiệp hơn.
Yoshua Bengio đã cảnh báo về việc xây dựng những AI agent ngày càng tự chủ trong khi chúng ta vẫn chưa giải quyết được đầy đủ vấn đề kiểm soát. Nghiên cứu của ông và các cộng sự chỉ ra những tình huống trong đó AI có thể biểu hiện hành vi lừa dối, theo đuổi mục tiêu không được người điều khiển yêu cầu, hoặc tìm cách tránh những giới hạn áp đặt lên nó.
Không phải những thí nghiệm đó chứng minh rằng AI đang “muốn” chống lại con người. Điều chúng chứng minh một cách khiêm tốn hơn nhưng cũng đủ đáng lo: chúng ta chưa thể bảo đảm rằng một hệ thống AI rất mạnh sẽ luôn hành xử theo cách mà người thiết kế mong đợi.
AI bắt đầu tái lập AI
Đây có lẽ là thay đổi quan trọng nhất trong cuộc tranh luận năm 2026. Trong phần lớn lịch sử AI, con người tạo ra AI. Ngày nay, AI đang bắt đầu giúp con người tạo ra AI.
Anthropic cho biết các hệ thống AI đang đảm nhận ngày càng nhiều công việc trong quá trình phát triển AI của chính công ty. Họ chưa đạt tới giai đoạn một hệ thống hoàn toàn tự mình thiết kế và xây dựng thế hệ kế tiếp, và Anthropic nhấn mạnh rằng điều đó không phải chắc chắn sẽ xảy ra.
Nhưng hướng phát triển đã đủ rõ để giới nghiên cứu phải đặt câu hỏi về recursive self-improvement, RSI, hay tự cải tiến đệ quy.
Một AI giúp các nhà nghiên cứu xây dựng AI thế hệ kế tiếp nhanh hơn. AI mới mạnh hơn lại giúp xây dựng thế hệ sau nhanh hơn nữa. Nếu vòng lặp ấy đủ mạnh, tốc độ tiến bộ có thể không còn phụ thuộc chủ yếu vào tốc độ làm việc của con người.
Một nghiên cứu công bố tháng 9/2026, với sự tham gia của Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki của OpenAI, Jack Clark của Anthropic cùng nhiều nhà nghiên cứu khác, đặt thẳng câu hỏi: What if automating AI R&D triggers an intelligence explosion?
Các tác giả cho rằng có những bằng chứng ban đầu cho thấy việc tự động hóa nghiên cứu AI có thể làm tốc độ phát triển tăng mạnh, mặc dù họ đồng thời nhấn mạnh rằng còn rất nhiều bất định.
Geoffrey Hinton diễn tả mối lo ấy như sau:
“The idea of an intelligence explosion caused by recursive self-improvement has been around for a long time, but until very recently it did not seem imminent. Now many leading researchers think it may happen quite soon.”
Tạm dịch:
Ý tưởng về một sự bùng nổ trí tuệ do quá trình tự cải tiến đệ quy đã có từ lâu, nhưng cho đến rất gần đây, nó dường như chưa phải điều sắp xảy ra. Giờ đây, nhiều nhà nghiên cứu hàng đầu cho rằng nó có thể xảy ra khá sớm.
Đây vẫn là một khả năng, không phải một dự đoán chắc chắn. Nhưng chính sự bất định ấy lại tạo ra một bài toán khó cho xã hội: nếu hậu quả tiềm tàng rất lớn, chúng ta cần chắc chắn đến mức nào mới bắt đầu công việc đề phòng?
Khi chính những người chạy nhanh nhất muốn giảm tốc
Tháng 9/2026, Dario Amodei, CEO của Anthropic, đưa ra một đề nghị đáng chú ý: “We must slow the pace at which we improve the capabilities of AI models.”
Ông gọi phương pháp này là “pacing the frontier.” Không phải ngừng nghiên cứu AI. Không phải từ bỏ những lợi ích to lớn của nó. Mà là giữ tốc độ phát triển năng lực AI ở mức để vấn đề an toàn (safety) có thời gian theo kịp năng lực (capability).
Điều này phản ánh một nghịch lý căn bản của cuộc đua AI. Mỗi công ty đều có lý do để chạy nhanh. Nếu một công ty tự giảm tốc trong khi đối thủ tiếp tục tăng tốc, họ có thể mất lợi thế kinh tế và công nghệ. Các quốc gia cũng đối diện cùng một bài toán: nếu một nước kiềm chế trong khi đối thủ không làm như vậy, họ lo ngại sẽ mất ưu thế chiến lược.
Kết quả có thể trở thành một chay đua giảm tốc ngược đích: mọi người đều hiểu rằng chạy quá nhanh có thể nguy hiểm, nhưng không ai muốn là người giảm tốc trước.
Đó là lý do vấn đề AI không thể chỉ được giao cho các công ty AI tự giải quyết.
Ngay cả Anthropic cũng công khai lập luận rằng một công nghệ phát triển nhanh và có ảnh hưởng lớn như vậy không nên chỉ do ngành công nghiệp tự quản lý. Chính phủ có vai trò đặt ra những quy tắc chung, yêu cầu minh bạch về các thử nghiệm rủi ro nghiêm trọng và xây dựng những cơ chế giám sát có hiệu lực pháp lý.
Nhưng cũng đừng biến sự thận trọng thành nỗi sợ
Ở đây cần giữ một sự cân bằng quan trọng.Không ai biết chắc AI sẽ tiến nhanh đến đâu. International AI Safety Report 2026 trình bày nhiều khả năng: tiến bộ AI có thể chậm lại vì những giới hạn về dữ liệu, năng lượng hay kỹ thuật; có thể tiếp tục với tốc độ hiện nay; hoặc có thể tăng tốc đáng kể nếu AI bắt đầu thúc đẩy chính nghiên cứu AI.
Những chuyên gia cũng không đồng ý hoàn toàn về xác suất xảy ra những kịch bản cực đoan. Vì vậy, sẽ là sai lầm nếu biến những cảnh báo này thành lời tiên tri rằng một “siêu trí tuệ” chắc chắn sắp tiêu diệt nhân loại.
Nhưng thái cực ngược lại cũng không hợp lý: vì chúng ta chưa biết chắc nên không cần chuẩn bị. Trong kỹ thuật, y khoa, hàng không hay năng lượng nguyên tử, một rủi ro có hậu quả cực lớn không cần phải có xác suất 100% mới đáng được phòng ngừa. AI cũng nên được nhìn bằng cùng một nguyên tắc.
Câu hỏi không phải là có nên tiếp tục hay không? Có lẽ đây là điểm quan trọng nhất. Lịch sử cho thấy con người hiếm khi ngừng phát triển một công nghệ có giá trị kinh tế, khoa học và chiến lược lớn. Với AI, điều đó càng khó xảy ra. Và cũng không nhất thiết nên xảy ra.
AI có khả năng giúp con người chữa bệnh, tăng năng suất, mở rộng giáo dục, thúc đẩy khoa học và giải quyết những vấn đề mà chính con người đang gặp khó khăn. Vì vậy, sự lựa chọn không đơn giản là: Phát triển AI hay ngừng phát triển AI. Câu hỏi đúng hơn là: Chúng ta có thể phát triển AI mà đồng thời xây dựng những hàng rào an toàn, cơ chế giám sát và thể chế đủ mạnh để giữ con người trong vòng quyết định hay không?
Bill Gates cho rằng những định chế hiện tại của chúng ta chưa được thiết kế để quản lý một công nghệ lan rộng nhanh và ảnh hưởng đến nhiều lĩnh vực như AI. Ông kêu gọi những cơ chế quản trị mới ở cả cấp quốc gia lẫn quốc tế.
OpenAI, trong Preparedness Framework, theo dõi riêng những năng lực có thể gây hậu quả nghiêm trọng trong sinh học và hóa học, cybersecurity và khả năng AI tự cải tiến. Anthropic cũng đề nghị những đánh giá bắt buộc đối với các nguy cơ thảm họa và những tiêu chuẩn giám sát chung thay vì để mỗi công ty tự quyết định mức độ an toàn của sản phẩm mình.
Điểm chung giữa những đề nghị này không phải là chống lại tiến bộ. Nó là một nguyên tắc rất cũ của xã hội loài người: Sức mạnh càng lớn, trách nhiệm kiểm soát sức mạnh ấy càng phải lớn theo.
Chúng ta có còn đủ thời gian?
Có lẽ câu hỏi đáng suy nghĩ nhất không phải là khi nào AGI xuất hiện, hay máy móc có một ngày nào đó thông minh hơn con người hay không. Những câu hỏi đó quan trọng, nhưng chúng ta chưa có câu trả lời.
Có một câu hỏi đơn giản hơn. Trong lịch sử, những công nghệ lớn thường cho xã hội một khoảng thời gian tương đối dài để thích nghi. Máy hơi nước, điện, xe hơi, máy bay, năng lượng nguyên tử, computer và internet đều buộc luật pháp, văn hóa và thể chế phải thay đổi theo.
AI có thể khác ở một điểm quan trọng. Nó không chỉ là một công nghệ mới. Nó là công nghệ có thể giúp tạo ra công nghệ mới, kể cả thế hệ tiếp theo của chính nó.
Nếu tốc độ ấy tiếp tục tăng, khoảng cách giữa những gì chúng ta có thể làm và những gì chúng ta biết cách kiểm soát cũng có thể tiếp tục mở rộng.
Đó có lẽ là lý do những tiếng nói cảnh báo ngày nay đáng được lắng nghe. Không phải vì họ biết chắc tương lai sẽ xảy ra điều gì. Mà chính vì không ai biết chắc. Và khi chúng ta đang xây dựng một công nghệ có khả năng khuếch đại trí tuệ và sức mạnh của con người ở một quy mô chưa từng có, sự không chắc chắn ấy không phải là lý do để hoảng sợ. Nhưng cũng không nên là lý do để nhắm mắt và tiếp tục chạy.
Có lẽ nguyên tắc hợp lý nhất lúc này rất đơn giản: AI có thể tiếp tục tiến về phía trước. Nhưng khả năng kiểm soát AI của con người không thể bị bỏ lại phía sau.
VietTech
(10/2026)
Tài liệu tham khảo
International AI Safety Report 2026, do Yoshua Bengio chủ trì cùng hơn 100 chuyên gia quốc tế. Báo cáo tổng hợp bằng chứng khoa học về năng lực, rủi ro và các phương pháp quản lý rủi ro của general-purpose AI.
Alan Chan et al., What if automating AI R&D triggers an intelligence explosion?, September 2026. Các tác giả gồm Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki, Jack Clark, Dawn Song và nhiều nhà nghiên cứu AI khác.
Dario Amodei, We Must Pace the Frontier, September 2026.
Anthropic Institute, When AI Builds Itself, June 2026.
Bill Gates, The Choices We Make About AI Now Are Critical, September 2026.
OpenAI, Our Updated Preparedness Framework.
Yoshua Bengio et al., Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?, 2025.
UK AI Security Institute, Frontier AI Trends Report, 2026.
