Sóng thần công nghệ – Trí tuệ nhân tạo, Quyền lực và Thách thức lớn nhất thế kỷ 21 (The Coming Wave) – Mustafa Suleyman
Mustafa Sykeyman là đồng sáng tập Deepmind, 1 công ty AI lớn đã được Google mua lại và giờ ông đang lãnh đạo công ty AI khác là Inflection.
- Không thể kiềm tỏa
Sự bùng nổ và lan rộng của công nghệ cũng tạo nên những làn song thay đổi thế giới. Làn sóng sắp tới được xác lập bởi 2 công nghệ cốt lõi: trí tuệ nhân tạo (AI) và sinh học tổng hợp. 2 công nghệ này sẽ cùng nhau mở ra bình minh mới cho nhân loại, tạo ra của cải và thặng dư chưa từng thấy. Làn sóng công nghệ sắp tới sẽ đưa lịch sử loài người đi đến 1 bước ngoặt. Nếu không thể kiểm soát được thì hậu quả đối với loài người chúng ta cực kỳ nghiêm trọng, thậm chí có thể rất thảm khốc.
Suy ngẫm về trí tuệ nhân tạo hkieens ta nghĩ tới câu hỏi: Sẽ thế nào nếu chúng ta chắt lọc được bản chất tinh túy của thứ tạo nên năng lực, năng suất của con người và biến nó thành phần mềm hoặc thuật toán. Tìm được câu trả lời có thể mở ra những công cụ mạnh không thể tưởng tượng nổi giúp chúng ta giải quyết những vấn đề nan giải nhất.
- Phần I – Home Technologicus
- Sự phổ biến vô tận
Các công nghệ đã thay đổi cuộc sống loài người qua nhiều mốc thay đổi lớn. Các công nghệ đa dụng là những thứ hữu hiệu nhất và sau khi nó được phát minh ra thì đã nhanh chóng bùng nổ và lan rộng ra khắp mọi nơi trên thế giới và nó ảnh hưởng sâu sắc tới đời sống của tất cả mọi người dân trên thế giới.
Thế giới nghi nhận 24 loại công nghệ đa dụng phổ biến này trong lịch sử loài người. Mà khởi đầu là 3 công nghệ: tiếng nói, lửa, chữ viết. Các làn sóng này sua khi được phát minh ra và phổ biến thì chúng dần trở thành những thứ đương nhiên có, đương nhiên tồn tại.
Ngày nay, cuộc cách mạng thông tin đang diễn ra và nó bắt đầu vào thập niên 50s khi mà các bóng bán dẫn và chất bán dẫn được phát minh ra bởi Noyce tại Fairchild Semiconductor. Từ đó sự bùng nổ bắt đầu diễn ra mạnh mẽ vào thập niên 70s và chúng tuân theo định luật more nổi tiếng khi cứ 24 tháng thì số lượng transistor sẽ tăng lên gấp 2. Ngày nay, các con chip trở thành nền tảng cho các mạng internet, viễn thông, thiết bị điện thoại di động, mạng di động và tiền đề để xây dựng mạng thông tin ứng dụng cho người dùng đang bùng nổ hiện nay.
- Vấn đề chính sách kiềm tỏa
Công nghệ ra đời và dù bị kiểm soát chặt chẽ thì sau đó nó vẫn được ứng dụng rộng rãi và các nước đã kiềm chế nó sau đó đều phải chấp nhận sử dụng nó vì đó là những công nghệ hữu ích và có lợi cho bản thân họ mà không thể từ chối được. Mức độ lan tỏa công nghệ phổ biến là rất khó kiểm soát.
Trong lịch sử chỉ có công nghệ hạt nhân là sau khi ra đời bị kiểm soát chặt chẽ và ngăn chặn sự lan rộng của nó ra khắp nơi bởi việc thống nhất kiểm soát trên phạm vi toàn cầu, cũng như cần thiết kinh phí rất lớn và kỹ thuật cao mới có thể chế tạo ra được. Mặc dù vậy vẫn có rất nhiều nước thúc đẩy mong muốn sở hữu vũ khí hạt nhân dù đã bị hạn chế và kiểm soát rất chặt chẽ.
- Phần II – Làn sóng tiếp theo
- Công nghệ trí tuệ
AI là thuật ngữ đã có từ lâu và đã từng trải qua nhiều giai đoạn thăng trầm và phát triển trong suốt mấy chục năm qua. Deepmind là công ty tác giả sáng lập ra vào năm 2012 và bắt đầu tiếp cận AI với sự thầm lặng sau quá trình gọi vốn và 4 năm làm việc liên tục của họ. họ tạo ra hệ thống Deep Q Net ban đầu và sau đó nhiều lần tinh chỉnh hệ thống. Trước đó Deep Blue của IBM đã từng đánh bại Gary Kassparov trên bàn cờ vua. Nhưng với bài toán cờ vây lại cực kỳ khó khăn vì khối lượng tính toán vô cùng khổng lồ mà phương pháp vét cạn trước đây không thể giải quyết được.
AlphaGo của Google đã thay đổi cách tiếp cận từ cây thuật toán vét cạn sang học máy với việc xem 150.000 ván cờ vây của các kỳ thủ đã được ghi lại. Hệ thống sẽ hỏi hỏi cách chời từ đó và thử kết hợp các cách chơi lại, tự chơi tự học hỏi từ đó để cải thiện cách chơi. Cuối cùng vào năm 2016, hệ thống này đã đánh bại kỳ thủ cờ vây số 1 thế giới là Lee Sedol. Bài toán đặt ra tiếp theo là ứng dụng AI vào thực tế sẽ như thế nào thay vì giải các bài toán đánh cờ và các bài toán cũ.
Sự bùng nổ của công nghệ chip cũng là chất xúc tác giúp AI bùng nổ phát triển vào cuối những năm 2010s trở lại đây. Sự bùng nổ chip AI đời mới giúp quá trình học sâu bùng nổ, các thuật toán xử lý dữ liệu với khối lượng dữ liệu khổng lồ đã được thu thập, khả năng kết nối 5G, số lượng người dùng online đông đảo sẽ giúp đưa AI vào thế giới thực trong thời gian tới 1 cách mạnh mẽ.
Cuối năm 2022, OpenAI phát hành ChatGPT là sự đột phá mạnh mẽ việc ứng dụng AI vào thực tế với sự trỗi dậy của các mô mình ngôn ngữ lớn. Chat GPT có thể trả lời trôi chảy phần lớn các công hỏi nó được hỏi và đưa ra các tính toán, giải pháp rất nhanh chóng chỉ sau 1 vài giây. Nó cơ bản đã vượt qua được bài kiểm tra Turing truyền thống về việc đánh giá AI có tri giác hay không.
Như trong tương lai tới đây, bài kiểm tra với AI sẽ phức tạp hơn khi lúc đó sẽ đòi hỏi AI giải quyết các bài toán đa dụng trong thế giới thực thay vì các bài toán hẹp hiện nay. Ví dụ như làm thế nào để kiếm được 1M trên Amazon từ nguồn vốn 100k$. Nó sẽ phải nghiên cứu các xu hướng trên amazon, tạo ra các hình ảnh và thiết kế sản phẩm, tìm kiếm nhà cung cấp trên alibaba, liên lạc, chỉnh sửa thiết kế với các drop-ship và bán các sản phẩm này ra, thu tiền, lập ngân sách, chạy quảng cáo…. Về cơ bản khi đó ta có thể lập kế hoạch phân cấp, kết hợp nhiều mục tiêu chính, mục tiêu phụ và các khả năng vào 1 quy trình liền mạch hướng tới 1 mục tiêu duy nhất, và AI sẽ làm được và sẽ tạo ra sự thay đổi lớn lao trong nền kinh tế thực.
- Công nghệ của sự sống
Tương lai tới đây, sự sống sẽ được xác định bởi sự hội tụ của sinh học và kỹ thuật. Việc nghiên cứu DNA được thực hiện từ lâu và các công trình nghiên cứu rất nhiều tỷ USD với hàng nghìn nhà khoa học đã được tập trung cho lĩnh vực giải mã gen người và các công nghệ gen để ứng dụng như điều trị bệnh, sản xuất thuốc, các công nghệ sinh học ứng dụng,…các công nghệ về gen đang được nghiên cứu ứng dụng rộng rãi vào nhiều lĩnh vực cuộc sống và việc nghiên cứu từ thủ công cũng dần chuyển sang các hệ thống máy móc nghiên cứu ứng dụng giống như ngành sản xuất chip từng xảy ra từ hệ thống sản xuất thủ công sang sản xuất máy móc tự động vô cùng hiệu quả hiện nay.
Các tiến bộ này làm bùng nổ sinh học tổng hợp và từ đó sự kết hợp của AI (trí tuệ nhân tạo) với sinh học tổng hợp có sự gắn kết chặt chẽ với nhau như 1 vòng phản hồi xoán ốc thúc đẩy lẫn nhau. Từ đó, thời đại của máy sinh học và máy tính sinh học, nơi các chuỗi DNA thực hiện tính toán và các tế bào nhân tạo được đưa vào hoạt động. Nơi máy móc trở nên sống động. Thời đại của sự sống tổng hợp.
- Làn sóng rộng lớn hơn
Làn sóng công nghệ không chỉ là 1 hoặc 2 công nghệ có mục đích chung. Chúng là các cụm công nghệ xuất hiện cùng lúc, được gắn với 1 hoặc nhiều công nghệ có mục đích chung nhưng vượt xa các công nghệ này.
Ứng dụng quan trọng hàng đầu của AI là robot, nó là 1 ngành rất lâu đời nhưng là biển hiện vật lý của AI: Cơ thể của AI. Trươc đây, Robot được chế tạo ra ở dạng công cụ 1 chiều, những cỗ máy có khả năng thực hiện các nhiệm vụ đơn lẻ trên dây truyền sản xuất với tốc độ chính xác. Nhưng thế giới thực lại là 1 môi trường kỳ lạ, không đồng đều, bất ổn và không có cấu trúc, cực kỳ nhạy cảm với những thứ như áp lực và tạo ra sự khó khăn rất lớn cho việc chế tạo robot đa nhiệm vụ trong đời thực.
AI đại diện cho sự tự động hóa thông tin, còn robot thì đại diện cho sự tự đông hóa của vật liệu. Sự phát triển của AI sẽ làm thay đổi lĩnh vực robot sang các lĩnh vực rộng khắp hơn trong tươn glai. Bên cạnh robot, các lĩnh vực về lượng tử, vật liệu nano, năng lượng mới đều đang bùng nổ và ngày càng đưa những điều mới chỉ là ý tưởng trước kia thành hiện thực hiện tại.
- Bốn đặc điểm của làn sóng sắp tới
Nhiều sản phẩm công nghệ trước đây ra đời với mục đích bán đầu khác, nhưng nó sau đó bùng nổ và lan rộng ra và lại trở thành ý nghĩa khác đi với hậu quả rất lớn mà không ai lường trước được. Trong làn sóng công nghệ sắp tới được đặc trưng bởi tập hợp gồm đặc điểm nội tại làm phức tạp thêm vấn đề kiềm tỏa theo nhiều hướng:
- Tác động bất đối xứng: các công nghệ mới tạo ra những điểm yếu và áp lực mà trước đây không thể tưởng tượng được đối với các quyền lực dường như đóng vai trò thống trị.
- Các công nghệ tạo ra 1 kiểu siêu tiến hóa: có tính lặp lại, được cải tiến và phân nhánh sang các lĩnh vực mới với tốc độ đáng kinh ngạc.
- Chúng thường đa dụng: chúng có thể được sử dụng cho nhiều mục đích khác nhau
- Chúng ngày càng có mức độ tự chủ cao hơn bất kỳ công nghệ nào trước đây
- Những động lực không thể ngăn cản
TQ sau đã nhận ra khoảng khắc thay đổi của mình khi AlphaGo đánh bại kỳ thủ cờ vây số 1 thế giới người TQ tại đất TQ. Họ đã nhanh chóng đưa ra chính sách mới tập trung phát triển công nghệ trong chiến lược 2030 của mình. Họ đã tập trung mạnh vào AI như trụ cột chính trong các trụ cột đột phá công nghệ và nhanh chóng vươn lên top đầu thế giới với vị trí gần như ngang với Mỹ và chỉ thua kém ở việc thiết kế và sản xuất chip siêu nhỏ.
Mỗi khi công nghệ mang tính bước ngoặt ra đời, sẽ có hàng trăm, hàng nghìn doanh nghiệp tham gia vào và tạo ra cơn sốt đầu cơ công nghệ bùng nổ, nó đẩy mọi thứ lên cao trào sau đó sụp đổ nhưng điều này đã thúc đẩy sự phát triển vượt bậc để đưa các công nghệ ra phổ biến ra đại chúng hóa khắp nơi.
- Phần III – Nhà nước thất bại
- Khế ước vĩ đại
Khế ước vĩ đại giữa nhà nước và người dân giúp tập trung quyền lực vào nhà nước nhằm đem lại hòa bình và thịnh vượng. Trong khi người dân có thể giám sát nhà nước thông qua các biện pháp kiểm tra, cân bằng, tái phân phối và các hình thức thể chế. Nhưng với làn sóng công nghệ mới, khế ước vĩ đại đang bị rạn nứt và có nguy cơ bị phá vỡ.
- Yếu tố khuếch đại bất ổn định
Các cuộc tấn công mạng nhằm mã hóa và kiểm soát các hệ thống từ hạ tầng cơ sở đến an ninh quốc phòng đang diễn ra liên tục và ngày càng làm cho các quốc gia bị ảnh hưởng lớn và hoàn toàn có thể xảy ra tình trạng virus tự tiến hóa và chiếm quyền nhiều hơn gây tê liệt hoàn toàn các mạng máy tính nơi mà nó được ứng dụng vào hầu hết mọi lĩnh vực cuộc sống ngày nay và càng làm cho tình trạng bất ổn lan rộng ra khắp mọi nơi trên thế giới ở mọi lĩnh vực.
Các công nghệ như vũ khí robot tự động, máy bay không người lái, các hệ thống deekfake tạo ra các bằng chứng giả mạo đang ngày 1 trở nên rộng rãi trong cuộc sống và gây nguy hiểm cho cuộc sống mọi người. Việc rối loạn thị trường lao động khi AI liên tục tiến hóa cấp số nhân và không thật sự có trần nào rõ ràng sẽ càng làm cho xã hội thêm biến động trong tương lai sắp tới đây.
- Tương lai các quốc gia
Các công ty công nghệ lớn trên thê giới ngày càng lớn hơn và độ tập trung ngày càng cao hơn vào các công ty hàng đầu và họ chính là những người phát triển các hệ thống AI lớn nhất thế giới và kiểm soát rất nhiều hệ thống lớn bằng công nghệ của mình.
Sự bùng nổ của AI, công nghệ năng lượng mới, robot tự động có thể tạo ra các hệ thống tách rời với quyền lực nhà nước và tạo ra cấc khu tự trị riêng mà không bị phụ thuộc vào hạ tầng của nhà nước như trước đây và làm sói mòn quyền lực của nhà nước và sự theo dõi chặt chẽ của nhà nước với các công dân của mình khi sự tụ chủ của họ lên cao.
- Thế lưỡng nan
Các công nghệ mạnh có tiềm năng hủy diệt toàn bộ con người ngày 1 được phát triển và nó đã là điều có thể thực hiện được. Các rủi ro gia tăng đặt ra các hệ thống kiềm tỏa các rủi ro này để tránh cho nó xảy ra trong thực tế. Việc này sẽ đẩy các nước tới việc gia tăng các biện pháp giám sát, an ninh như cách TQ làm là xây dựng hệ thống camera giám sát khắp mọi nơi, hệ thống chấm điểm tín dụng… để ngăn ngừa sớm các tín hiệu cực đoan. Nhưng chính điều này làm chúng ta rơi vào thế lưỡng nan khi phải lựa chọn giữa 2 thái cực là thảm hoạc hoặc xã hội méo mó. Các lo ngại khi hệ thống AGI thực sự ra đời có thể là chuỗi hủy diệt cho nhân loại cũng là các lo lắng thường trực và thường xuất hiện trên các bộ film viễn tưởng.
Lý do AI vừa có giá trị vừa nguy hiểm chính là do AI là phần mở rộng những mặt tốt đẹp và xấu xa nhất của chúng ta. Chúng ta xây dựng nó với mong muốn gia tăng năng suất lao động nhưng lại lo lắng AI có thể tự học hỏi và tự chủ rồi sau đó kiểm soát lại chúng ta.
- Phần IV – Xuyên qua làn sóng
- Phải kiềm tỏa được
Cơn lốc công nghệ bùng nổ khắp mọi nơi và các quỹ định của nhà nước đưa ra nhằm kiềm tỏa, kiểm soát chúng đang tỏ ra chậm chạp và kém hiệu quả. EU đi đầu với dự thảo đạo luật AI so với các nước khác. Nhưng 1 mình EU là chưa đủ và cần sự hợp tác của tất cả các bên khi rất nhiều nước tham gia vào cuộc đua đi đầu AI nhưng thiêu sự kiềm tỏa hợp lý các công nghệ AI này.
Về lý thuyết, công nghệ được kiểm soát giúp chúng ta thoát khỏi thế lưỡng nan ở trên. Nghĩa là ta vừa có thể khai thác lợi ích vừa kiểm soát làn sóng, công cụ quan trọng xây dựng xã hội bền vững và hung thịnh, đồng thời giám sát để tránh thảm họa nghiêm trọng, nhưng không can thiệp quá mức dẫn tới xã hội méo mó. Nghĩa là định ra 1 dạng “khế ước vĩ đại” mới.
- 10 bước để kiềm tỏa được làn sóng công nghệ
- An toàn: Chương trình Apollo về an toàn kỹ thuật. Sự an toàn của AI tập trung vào việc giữ các hệ thống tự động không vượt xa khả năng hiểu hoặc kiểm soát chúng của chúng ta.
- Kiểm tra: Kiến thức là sức mạnh, sức mạnh là sự kiểm soát. Niềm tin tới từ sự minh bạch. Chúng ta rất cần có khả năng xác minh, ở mọi cấp độ, tính an toàn, tính toàn vẹn hoặc tính chất không bị xâm phạm của 1 hệ thống.
- Điểm nghẽn: Cầu giờ. Các biện pháp hạn chế phổ biến công nghệ tạo ra các điểm nghẽn cho sự bùng nổ AI ra toàn cầu đặc biệt các công nghệ tự động hóa toàn diện tự kiểm soát được. Các điểm nghẽn chính là việc sản xuất chip AI phụ thuộc vào Nvidia và TSMC, các hệ thống điện toán đám mây lớn cũng phụ thuộc 1 số công ty lớn.
- Nhà sản xuất: Các nhà phê bình nên xây dựng nó. Thay vì ở bên ngoài phê phán công nghệ và các rủi ro của nó gây ra cho xã hội thì các nhà phê bình cần là những người thực hành. Xây dựng công nghệ phù hợp, có phương tiện thiết thực để thay đổi hướng đi của nó, không chỉ quan sát và binh luận mà còn tích cực chỉ đường, thực hiện thay đổi, thực hiện các hành động cần thiết ngay từ nguồn.
- Doanh nghiệp: Lợi nhuận + mục đích. Ngoài mục tiêu lợi nhuận, lợi ích cho cổ đông là mục tiêu truyền thống của các công ty thì ngày nay các ông ty công nghệ cũng bắt đầu hình thành và quan tâm hơn tới các vấn đề đạo đức và đã dần chấp nhận nó trong văn hóa doanh nghiệp của mình.
- Chính phủ: Tồn tại, cải cách, điều tiết. Chỉ lỗ lực của các doanh nghiệp là chưa đủ mà cần sự tham gia mạnh mẽ của các chính phủ vào việc kiềm tỏa làn sóng công nghệ hiện nay.
- Liên minh: Đã đến lúc ký kết các hiệp ước.
- Văn hóa: Trân trọng đón nhận thất bại.
- Phong trào: Quyền lực nhân dân.
- Con đường hẹp: chỉ 1 đường đi qua.
