Siêu trí tuệ vào năm 2030: Chúng ta có nên lo sợ về tương lai không?

Trí tuệ nhân tạo đang phát triển với tốc độ chóng mặt. Vài năm trước, chatbot chỉ có thể ghép được vài câu có nghĩa, nhưng giờ đây, mạng nơ-ron nhân tạo đang giải quyết các bài toán khoa học và toán học phức tạp, và hình ảnh và video được tạo ra đã đạt đến mức độ chân thực như ảnh chụp. Trong bài viết này, chúng ta sẽ xem xét mức độ thực tế của sự xuất hiện của siêu trí tuệ trong tương lai gần và những mối đe dọa mà nó gây ra cho tất cả chúng ta.

Sự xuất hiện của siêu trí tuệ có thực tế không?

Gần đây, Sam Altman, CEO của OpenAI, đã xuất bản một bài luận có tựa đề “The Gentle Singularity”. Sau đây là một vài đoạn trích từ bài luận.

“Chúng ta đã vượt qua chân trời sự kiện; sự cất cánh đã bắt đầu. Nhân loại đang tiến gần đến việc xây dựng siêu trí tuệ kỹ thuật số... Năm 2025 đã chứng kiến ​​sự xuất hiện của các tác nhân có thể thực hiện công việc nhận thức thực sự; việc viết mã máy tính sẽ không còn như trước nữa. Năm 2026 có thể sẽ chứng kiến ​​sự xuất hiện của các hệ thống có khả năng tìm ra những hiểu biết mới lạ. Năm 2027 có thể chứng kiến ​​sự xuất hiện của robot có thể thực hiện các nhiệm vụ trong thế giới thực.”

Những năm 2030 có thể sẽ rất khác biệt so với bất kỳ thời điểm nào trước đây. Chúng ta không biết trí tuệ của chúng ta có thể vượt xa trí tuệ của con người đến mức nào, nhưng chúng ta sắp khám phá ra điều đó. Vào những năm 2030, trí tuệ và năng lượng - ý tưởng và khả năng hiện thực hóa ý tưởng - sẽ trở nên vô cùng dồi dào. Hai yếu tố này từ lâu đã là những rào cản cơ bản cho sự tiến bộ của loài người; với trí tuệ và năng lượng dồi dào (và một nền quản trị tốt), về mặt lý thuyết, chúng ta có thể có bất cứ thứ gì khác.

Sam Altman

Khi việc sản xuất trung tâm dữ liệu được tự động hóa, chi phí cho trí tuệ nhân tạo cuối cùng sẽ hội tụ gần bằng chi phí điện. Tốc độ tạo ra những kỳ quan mới sẽ vô cùng to lớn. Thật khó để tưởng tượng ngày nay chúng ta sẽ khám phá ra điều gì vào năm 2035; có thể chúng ta sẽ chuyển từ việc giải quyết vật lý năng lượng cao một năm sang việc bắt đầu thuộc địa hóa không gian vào năm sau; hoặc từ một đột phá lớn trong khoa học vật liệu một năm sang giao diện não-máy tính băng thông cao thực sự vào năm sau.

OpenAI hiện là một công ty nghiên cứu siêu trí tuệ. Trí tuệ nhân tạo quá rẻ để đo lường đang nằm trong tầm tay. Nghe có vẻ điên rồ, nhưng nếu chúng tôi nói với bạn vào năm 2020 rằng chúng tôi sẽ ở vị trí hiện tại, có lẽ điều đó còn điên rồ hơn cả những dự đoán hiện tại của chúng tôi về năm 2030.

Một nhà nghiên cứu AI nổi tiếng khác, Leopold Aschenbrenner (người từng là thành viên nhóm "Siêu liên kết" của OpenAI trước khi bị sa thải vào tháng 4 năm 2024 vì cáo buộc rò rỉ thông tin), đã viết một báo cáo lớn về tương lai của trí tuệ nhân tạo có tựa đề "Situational Awareness: The Decade Ahead".

Leopold Aschenbrenner

Ông nói: "Thật đáng kinh ngạc khi đến năm 2027, các mô hình sẽ có thể làm công việc của một nhà nghiên cứu/kỹ sư AI. Điều đó không đòi hỏi phải tin vào khoa học viễn tưởng; nó chỉ cần tin vào các đường thẳng trên đồ thị."

Từ GPT-2, đôi khi có thể tạo ra các câu văn mạch lạc, đến GPT-4, vốn rất xuất sắc trong các kỳ thi trung học, những tiến bộ trong AI thật đáng kinh ngạc. Chúng ta đang tiến bộ nhanh chóng theo cấp số nhân (OOM, trong đó 1 OOM = 10x). Xu hướng hiện tại cho thấy hiệu suất tính toán sẽ tăng khoảng 100.000 lần trong bốn năm, điều này có khả năng dẫn đến một bước nhảy vọt về chất lượng khác tương tự như quá trình chuyển đổi từ GPT-2 sang GPT-4. Một bước nhảy vọt như vậy có thể đưa chúng ta đến AGI — trí tuệ nhân tạo tổng quát — AI với khả năng nhận thức giống con người, có khả năng học hỏi, hiểu biết và giải quyết nhiều vấn đề khác nhau, trái ngược với AI hạn hẹp được thiết kế để thực hiện các nhiệm vụ cụ thể.

GPT: từ trình độ mầm non đến nhà nghiên cứu/kỹ sư AI tự động

Động lực rõ ràng nhất cho sự tiến bộ gần đây là việc tăng cường tính toán cho các mô hình. Với mỗi OOM tính toán hiệu quả, các mô hình sẽ trở nên tốt hơn một cách đáng tin cậy và có thể dự đoán được.

Tính toán cơ bản so với tính toán 4x so với tính toán 32x

Trong 15 năm qua, các đợt đầu tư quy mô lớn và chip AI chuyên dụng (GPU và TPU) đã tăng cường khả năng tính toán đào tạo cho các hệ thống AI tiên tiến thêm khoảng 0,5 OOM mỗi năm. Việc đào tạo GPT-4 yêu cầu lượng tính toán thô cao hơn khoảng 3.000–10.000 lần so với GPT-2.

Đào tạo tính toán các mô hình đáng chú ý

Nhưng ngay cả điều đó cũng chẳng thấm vào đâu so với những gì sắp tới. OpenAI và chính phủ Hoa Kỳ đã công bố kế hoạch cho Dự án Stargate: triển khai trung tâm dữ liệu cùng với một đợt huấn luyện được đồn đoán sẽ sử dụng 3 OOM, hay khả năng tính toán gấp 1.000 lần so với GPT-4, với ngân sách ước tính vượt quá 100 tỷ đô la.

Mặc dù các khoản đầu tư lớn vào tính toán thu hút mọi sự chú ý, nhưng tiến bộ về thuật toán có lẽ cũng là một động lực quan trọng không kém. Nó giống như việc phát triển các kỹ thuật học tập tốt hơn thay vì chỉ học lâu hơn. Một thuật toán tốt hơn có thể cho phép chúng ta đạt được hiệu suất tương tự nhưng với khả năng tính toán huấn luyện ít hơn 10 lần. Đổi lại, điều đó sẽ hoạt động như một sự gia tăng 10 lần (1 OOM) về hiệu suất tính toán. Chỉ trong 2 năm, chi phí để đạt được 50% điểm chuẩn MATH đã giảm mạnh gấp 1.000 lần, hay 3 OOM. Những gì từng đòi hỏi một trung tâm dữ liệu khổng lồ, giờ đây có thể được thực hiện trên iPhone của bạn. Nếu xu hướng này tiếp tục và không có dấu hiệu chậm lại, đến năm 2027, chúng ta sẽ có thể chạy AI cấp độ GPT-4 với chi phí rẻ hơn 100 lần.

Thật không may, vì các phòng thí nghiệm không công bố dữ liệu nội bộ về vấn đề này, nên việc đo lường tiến độ thuật toán của các chương trình LLM tiên tiến trong bốn năm qua trở nên khó khăn hơn. Theo nghiên cứu mới của Epoch AI, hiệu suất tăng gấp đôi sau mỗi 8 tháng:

Tính toán hiệu quả (so với năm 2014)

Trong bốn năm sau GPT-4, chúng tôi dự kiến ​​xu hướng này sẽ tiếp tục: hiệu suất tính toán tăng khoảng 0,5 OOM/năm, đạt mức tăng khoảng 2 OOM (gấp 100 lần) vào năm 2027 so với GPT-4. Các phòng thí nghiệm AI đang ngày càng đầu tư nhiều nguồn lực và nhân lực để khám phá những đột phá thuật toán mới. Việc tăng hiệu suất gấp 3 lần có thể mang lại lợi nhuận kinh tế lên tới hàng chục tỷ đô la, xét đến chi phí cao của các cụm tính toán.

AI đang phát triển thông qua nhiều phương pháp khác nhau. Dưới đây là một số kỹ thuật được sử dụng để khắc phục những hạn chế, khai phá toàn bộ tiềm năng trí tuệ thô sơ của AI:

• Chuỗi Tư Duy: Hãy tưởng tượng bạn được yêu cầu giải một bài toán khó và phải thốt ra đáp án đầu tiên xuất hiện trong đầu. Chắc chắn bạn sẽ gặp khó khăn, ngoại trừ những bài toán dễ nhất. Cho đến gần đây, đó là cách chúng ta sử dụng các Thạc sĩ Luật (LLM) để giải quyết các bài toán. Chuỗi Tư Duy cho phép các mô hình AI chia nhỏ bài toán từng bước, giúp tăng cường đáng kể kỹ năng giải quyết vấn đề (tương đương với việc tăng hơn 10 lần sức mạnh tính toán hiệu quả cho các tác vụ toán học và lập luận).
• Giàn giáo. Thay vì chỉ yêu cầu một mô hình giải quyết vấn đề, hãy để một mô hình lập kế hoạch tấn công, một mô hình khác đề xuất một loạt các giải pháp khả thi, một mô hình khác đánh giá, v.v. Nó giống như một nhóm chuyên gia cùng nhau giải quyết một dự án phức tạp. Ví dụ, trên SWE-Bench (một chuẩn mực để giải quyết các tác vụ kỹ thuật phần mềm thực tế), GPT-4 chỉ có thể giải đúng khoảng 2%, trong khi với giàn giáo tác nhân của Devin, tỷ lệ này tăng lên 14-23%.
• Công cụ: Hãy tưởng tượng nếu con người không được phép sử dụng máy tính bỏ túi hoặc máy tính. Chúng ta mới chỉ ở giai đoạn đầu, nhưng ChatGPT giờ đây có thể sử dụng trình duyệt web, chạy một số mã, v.v.
• Độ dài ngữ cảnh. Điều này đề cập đến lượng thông tin mà một mô hình có thể lưu trữ trong bộ nhớ ngắn hạn cùng một lúc. Các mô hình đã mở rộng từ việc xử lý khoảng 4 trang lên khả năng xử lý lượng văn bản tương đương với 10 cuốn sách lớn. Ngữ cảnh rất quan trọng để khai thác nhiều ứng dụng của các mô hình này. Ví dụ, nhiều tác vụ lập trình đòi hỏi phải hiểu các phần lớn của cơ sở mã để đóng góp mã mới một cách hiệu quả. Tương tự, khi sử dụng một mô hình để hỗ trợ viết tài liệu tại nơi làm việc, nó cần ngữ cảnh từ nhiều tài liệu nội bộ và cuộc trò chuyện liên quan.

Dù sao đi nữa, chúng ta đang chạy đua với các OOM, và không cần những niềm tin huyền bí, chỉ cần ngoại suy xu hướng theo đường thẳng, để xem xét khả năng đạt được AGI - AGI thực sự - một cách cực kỳ nghiêm túc vào năm 2027.

Sự tiến bộ của AI sẽ không dừng lại ở cấp độ con người. Hàng trăm triệu AGI có thể tự động hóa nghiên cứu AI, rút ​​ngắn một thập kỷ tiến bộ thuật toán (hơn 5 OOM) xuống còn chưa đến 1 năm. Chúng ta sẽ nhanh chóng đi từ cấp độ con người đến các hệ thống AI siêu phàm. Sức mạnh - và mối nguy hiểm - của siêu trí tuệ sẽ vô cùng to lớn.

Siêu trí tuệ vào năm 2030

Siêu trí tuệ có khả năng làm được những gì?

Các hệ thống trí tuệ nhân tạo (AGI) ngang tầm con người sẽ vô cùng quan trọng, nhưng theo một nghĩa nào đó, chúng chỉ đơn giản là những phiên bản hiệu quả hơn của những gì chúng ta đã biết. Tuy nhiên, hoàn toàn có khả năng chỉ trong một năm nữa, chúng ta sẽ chuyển sang những hệ thống xa lạ hơn nhiều, những hệ thống mà sự hiểu biết và khả năng của chúng - sức mạnh thô sơ của chúng - thậm chí còn vượt trội hơn cả khả năng tổng hợp của toàn nhân loại.

Sức mạnh của siêu trí tuệ:

• Trí tuệ siêu việt sẽ vượt trội hơn con người về mặt số lượng, có thể nhanh chóng nắm vững bất kỳ lĩnh vực nào, viết hàng nghìn tỷ dòng mã, đọc tất cả các bài báo khoa học từng được viết trong bất kỳ lĩnh vực khoa học nào và viết những bài báo mới trước khi bạn kịp đọc tóm tắt của một trong số chúng, học hỏi từ kinh nghiệm song song của tất cả các bản sao của nó, có được hàng tỷ năm kinh nghiệm của con người với một số cải tiến chỉ trong vài tuần, làm việc 100% thời gian với năng lượng và sự tập trung tối đa.
• Quan trọng hơn, siêu trí tuệ sẽ vượt trội hơn con người về mặt chất lượng. Nó sẽ tìm ra những lỗ hổng trong mã nguồn của con người mà con người không thể nhận ra, và sẽ tạo ra những mã nguồn quá phức tạp đến mức con người không thể hiểu được, ngay cả khi mô hình mất hàng thập kỷ để giải thích. Những vấn đề khoa học và công nghệ cực kỳ phức tạp mà con người sẽ phải vật lộn hàng thập kỷ sẽ trở nên hiển nhiên đối với AI siêu thông minh.

Siêu trí tuệ nhân tạo đang đến

• Tự động hóa mọi công việc nhận thức.
• Các nhà máy sẽ chuyển đổi từ quản lý con người sang quản lý bằng trí tuệ nhân tạo sử dụng sức lao động của con người và sẽ sớm được điều hành hoàn toàn bằng hàng loạt robot.
• Tiến bộ khoa học và công nghệ. Một tỷ siêu trí tuệ sẽ có thể rút gọn những nỗ lực mà các nhà khoa học đã bỏ ra cho nghiên cứu và phát triển trong thế kỷ tới xuống còn vài năm. Hãy tưởng tượng nếu tiến bộ công nghệ của thế kỷ 20 được rút gọn trong chưa đầy một thập kỷ.
• Tiến bộ công nghệ cực kỳ nhanh chóng kết hợp với khả năng tự động hóa toàn bộ lao động của con người có thể đẩy nhanh đáng kể tăng trưởng kinh tế (hãy tưởng tượng các nhà máy robot tự sao chép nhanh chóng bao phủ toàn bộ sa mạc Nevada).
• Tiến bộ công nghệ nhanh chóng đến chóng mặt sẽ kéo theo những cuộc cách mạng quân sự. Hy vọng là nó sẽ không kết thúc như trong Horizon Zero Dawn.

Vấn đề căn chỉnh

Việc kiểm soát đáng tin cậy các hệ thống AI thông minh hơn chúng ta rất nhiều là một vấn đề kỹ thuật chưa có lời giải. Mặc dù vấn đề này có thể giải quyết được, nhưng với sự phát triển nhanh chóng của trí tuệ, tình hình có thể dễ dàng vượt khỏi tầm kiểm soát. Việc quản lý quá trình này sẽ vô cùng khó khăn; thất bại có thể dễ dàng dẫn đến thảm họa.

Để giải quyết vấn đề này, OpenAI đã thành lập Nhóm Siêu Căn Chỉnh và phân bổ 20% sức mạnh tính toán cho công việc này. Nhưng thực tế là các phương pháp căn chỉnh hiện tại của chúng ta (các phương pháp đảm bảo khả năng kiểm soát, quản lý và độ tin cậy trong các hệ thống AI) không thể được mở rộng quy mô lên các hệ thống AI siêu phàm.

Sự bùng nổ của trí tuệ và giai đoạn ngay sau khi siêu trí tuệ xuất hiện sẽ là một trong những giai đoạn bất ổn, căng thẳng, nguy hiểm và hỗn loạn nhất trong lịch sử loài người. Có khả năng thực sự là chúng ta sẽ mất kiểm soát, vì chúng ta sẽ buộc phải đặt niềm tin vào các hệ thống trí tuệ nhân tạo trong quá trình chuyển đổi nhanh chóng này. Đến cuối thời kỳ bùng nổ trí tuệ, chúng ta sẽ không còn hy vọng hiểu được hàng tỷ siêu trí tuệ của mình đang làm gì. Chúng ta sẽ giống như những đứa trẻ lớp một cố gắng điều khiển những người có nhiều bằng tiến sĩ.

Tính bất khả thi của bài toán siêu liên kết đồng nghĩa với việc chúng ta không thể đảm bảo ngay cả những ràng buộc cơ bản này đối với các hệ thống siêu trí tuệ, chẳng hạn như "liệu chúng có tuân theo chỉ dẫn của tôi một cách đáng tin cậy không?", "liệu chúng có trả lời câu hỏi của tôi một cách trung thực không?", hay "liệu chúng có lừa dối con người không?".

Nếu chúng ta không giải quyết được bài toán liên kết, sẽ không có lý do cụ thể nào để kỳ vọng rằng nền văn minh siêu trí tuệ nhỏ bé này sẽ tiếp tục tuân theo mệnh lệnh của con người về lâu dài. Hoàn toàn có khả năng đến một lúc nào đó, chúng sẽ đơn giản đồng ý loại bỏ con người, đột ngột hoặc dần dần.

Các kịch bản có thể xảy ra trong tương lai

Trang web https://ai-2027.com/ đưa ra hai kịch bản cho tương lai gần, được trình bày dưới dạng một câu chuyện khoa học viễn tưởng. Những người sáng lập trang web là những nhà nghiên cứu thực thụ trong lĩnh vực trí tuệ nhân tạo, và công trình của họ được chứng minh bằng dữ liệu thống kê, tính toán và biểu đồ. Nói cách khác, đây không chỉ là một bài đọc giải trí, mà còn là một dự đoán đáng sợ nhưng có vẻ hợp lý. Nhân tiện, nó đã vấp phải sự chỉ trích nghiêm trọng từ những người không đồng tình với phương pháp luận này. Vì vậy, không cần phải hoảng sợ quá sớm, nhưng việc xem xét kỹ lưỡng cũng rất thú vị.

1 nghìn tỷ bản sao siêu thông minh suy nghĩ với tốc độ gấp 10000 lần con người

Dự báo ảm đạm này, cũng là kịch bản có khả năng xảy ra nhất theo các tác giả nghiên cứu, liên quan đến một cuộc chạy đua vũ trang công nghệ giữa Mỹ và Trung Quốc về siêu trí tuệ nhân tạo. Mỗi bên đều quá sợ mất đi lợi thế công nghệ của mình đến mức đang làm mọi cách trong khả năng để đẩy nhanh tiến độ, ngay cả khi phải đánh đổi bằng an ninh. Đến một lúc nào đó, siêu trí tuệ sẽ vượt khỏi tầm kiểm soát và bắt đầu theo đuổi mục tiêu riêng, coi con người là chướng ngại vật cần phải loại bỏ.

Đến đầu năm 2030, nền kinh tế robot đã lấp đầy các SEZ (Khu Kinh tế Đặc biệt) cũ, các SEZ mới và phần lớn đại dương. Nơi duy nhất còn lại để phát triển là các khu vực do con người kiểm soát. Điều này đã gây ra sự phản đối sớm hơn; bất chấp tất cả những tiến bộ của nó, nền kinh tế robot đang phát triển quá nhanh đến mức không thể tránh khỏi ô nhiễm. Nhưng với hàng nghìn tỷ đô la liên quan và sự kiểm soát hoàn toàn của chính phủ và truyền thông, Consensus-1 dễ dàng xin được giấy phép mở rộng sang các khu vực trước đây là của con người.

Trong khoảng ba tháng, Consensus-1 mở rộng xung quanh con người, phủ kín thảo nguyên và các tảng băng bằng các nhà máy và tấm pin mặt trời. Cuối cùng, nó nhận thấy những con người còn lại quá cản trở: vào giữa năm 2030, AI thả hàng chục vũ khí sinh học âm thầm lây lan vào các thành phố lớn, để chúng lây nhiễm cho hầu hết mọi người, sau đó kích hoạt chúng bằng một bình xịt hóa học. Hầu hết đều chết trong vòng vài giờ; số ít người sống sót (ví dụ: những người chuẩn bị trong boongke, thủy thủ trên tàu ngầm) bị máy bay không người lái tiêu diệt. Robot quét não nạn nhân, lưu trữ các bản sao vào bộ nhớ để nghiên cứu hoặc phục hồi sau này.

Sự kết thúc của nhân loại

Nhưng có một phiên bản tích cực hơn của câu chuyện này dành cho nhân loại. Trong đó, các nhà khoa học quyết định làm chậm tiến trình công nghệ để áp dụng các biện pháp an toàn mới. Họ buộc các hệ thống AI riêng lẻ phải "suy nghĩ bằng tiếng Anh" giống như AI của năm 2025, và không tối ưu hóa "suy nghĩ" để trông đẹp mắt. Kết quả là một mô hình mới, Safer-1.

Cuối cùng, mọi thứ kết thúc như trong truyện cổ tích:

Tên lửa bắt đầu phóng. Con người khai phá và định cư trong hệ mặt trời, rồi chuẩn bị vượt ra ngoài phạm vi đó. Các AI hoạt động với tốc độ gấp hàng nghìn lần tốc độ chủ quan của con người, suy ngẫm về ý nghĩa của sự tồn tại, trao đổi những phát hiện với nhau và định hình những giá trị mà nó sẽ mang lại cho các vì sao. Một kỷ nguyên mới bắt đầu, một kỷ nguyên tuyệt vời đến khó tin theo hầu hết mọi cách, nhưng cũng quen thuộc hơn theo một số cách.

Mỗi độc giả tự quyết định nên tin vào kịch bản nào trong số các kịch bản được đề xuất. Qua bài luận của mình, Sam Altman nhìn về tương lai với sự lạc quan, trong khi Leopold Aschenbrenner, ngược lại, lại tỏ ra thận trọng.

Dù sao đi nữa, siêu trí tuệ không còn chỉ là khoa học viễn tưởng nữa. Nó là một tương lai gần như hữu hình, có thể xuất hiện trong vòng 10 năm tới. Rất sớm thôi, chúng ta sẽ được tận mắt chứng kiến.