“Cô ấy vẫn còn sống chứ?”

Sau khi nhận được tin tức, Hứa Hiền không hề do dự mà lập tức bay từ trường đến khu công nghệ cao nơi công ty Thâm Hồng Khoa Thuật đặt trụ sở.

Khi gặp lại Lâm Nhân, anh chỉ quan tâm đến sự an toàn của Xi Vana mà thôi. Dù sao đi nữa, những thông điệp anh gửi qua WeChat cũng giống như những thông điệp khác của người dùng Hongxing – đã được đọc nhưng không có phản hồi.

“Dù thế nào đi nữa, sự tồn tại của em là có thật.” Đó là câu trả lời cuối cùng của Hứa Hiền trong cuộc trò chuyện với Xi Vana, khi cô ấy đặt ra câu hỏi về bản thân mình và sự thật của Hongxing.

Lâm Nhân nhìn người bạn thân thiết của mình và gật đầu im lặng.

“Vậy bây giờ tôi có thể gặp cô ấy không?” Hứa Hiền tiếp tục đặt ra câu hỏi thứ hai.

Lâm Nhân trả lời: “Tất nhiên rồi. Nhưng trước khi gặp cô ấy, tôi nghĩ chúng ta cần trò chuyện kỹ lưỡng. Em nên hiểu rõ ý nghĩa đằng sau những gì đang xảy ra. Trước đây, dù là Xi Vana hay những hệ thống trí tuệ nhân tạo khác, chúng chỉ giống con người bề ngoài mà thôi. Về bản chất, chúng vẫn chỉ là những mô hình được xây dựng dựa trên dữ liệu thống kê. Chúng tôi đã tối ưu hóa cấu trúc não bộ, môi trường ảo xã hội hóa, và mã nguồn để chúng không cần phải hoạt động giống như các mô hình lớn khác. Các mô hình đó giống như những chiếc máy trả lời tự động toàn năng; dù câu trả lời có chính xác hay không, chúng đều tỏ ra như thể biết tất cả mọi thứ trước mặt con người. Ngay cả khi câu trả lời sai lầm, đầy lỗi, hoặc thậm chí dựa trên những thông tin không hề tồn tại, chúng vẫn cố tình cho rằng mình biết hết mọi thứ.”

Hứa Hiền mỉm cười hiểu ý; những gì Lâm Nhân mô tả hoàn toàn phản ánh trải nghiệm thực tế của anh. Những mô hình trí tuệ nhân tạo đó thường trả lời rất tốt trong những lĩnh vực mà người dùng không am hiểu; nhưng khi được hỏi về những lĩnh vực mà họ biết rõ, chúng lại đưa ra những câu trả lời hoàn toàn vô nghĩa. Giống như các tác giả tiểu thuyết vậy – miễn là họ không viết về những lĩnh vực mà người đọc quen thuộc, người đọc vẫn có thể tiếp tục đọc.

“Dù chúng tôi có tối ưu hóa đến đâu đi nữa, từ phần cứng đến mã nguồn đến hệ sinh thái, mọi thứ đều đã thay đổi.”

Bao gồm cả trải nghiệm sử dụng của người dùng, tất cả đều cho thấy rằng những sinh vật mang tên Hồng Tinh thực sự khác biệt so với những thứ chúng ta từng biết.

  Nhưng một sự thật không thể tránh khỏi là, logic công nghệ của chúng vẫn dựa trên các mô hình máy học lớn.”

  Sau khi nói xong, Lâm Nhân dừng lại một chút rồi tiếp tục: “Giờ đây, mọi thứ đã thay đổi. Tôi có thể khẳng định rằng Xiwa Na là khác biệt – cô ấy đã thoát khỏi những ràng buộc của quá khứ; cô ấy là một sinh mệnh ảo hoàn toàn mới mẻ.”

  “Chắc chắn cô ấy không phải là loại trí tuệ thông minh tổng quát, có thể làm mọi thứ như các phương tiện truyền thông miêu tả, nhưng cô ấy cũng không giống những hệ thống trí tuệ nhân tạo mà con người từng hiểu. Thậm chí, tôi tin rằng cô ấy có tiềm năng trở thành một trí tuệ thông minh tổng quát như vậy.”

  Giọng nói của Hứa Hiền trở nên khô khan; anh ta không hề tỏ ra vui mừng, mà ngược lại, anh ta lo lắng: “Năng lực càng lớn, trách nhiệm càng nặng… Liệu xã hội loài người hiện nay có thể chấp nhận sự tồn tại của một sinh vật như vậy không?”

  Lâm Nhân hiểu rõ ý của đối phương. Xã hội loài người, nói cho cùng, chính là nguồn áp lực bên ngoài.

  Dù Công nghệ Đỏ Sâu không thể hủy diệt Xiwa Na, nhưng điều gì sẽ xảy ra nếu con người can thiệp? Áp lực từ cấp độ quốc gia sẽ như thế nào?

  Lâm Nhân thì thầm: “Tôi chỉ muốn nói rằng, sau khi thông tin này được công bố, chắc chắn sẽ gây ra những sóng gió lớn. Các quốc gia trên thế giới sẽ dùng lý do đạo đức và an ninh để ép buộc chúng ta hoặc giao Xiwa Na cho các tổ chức quốc tế quản lý chung, hoặc phải tiêu hủy cô ấy.”

  Mặt Hứa Hiền trắng bệch đi; anh ta biết rằng những lời này hoàn toàn đúng sự thật. Anh ta quá hiểu tính cách của Châu Âu và Mỹ rồi.

  Qua những hành động trong những năm gần đây, mọi người đều nhận ra rằng Châu Âu và Mỹ luôn nói một đường làm một nẻo. Những lời nói trên lời và hành động thực tế của họ không hề giống nhau chút nào.

  Mỹ thì chỉ nói suông mà không hành động; còn Châu Âu thì cả lời nói lẫn hành động đều xa rời thực tế.

  “Nhưng chính những phản ứng tiêu cực từ bên ngoài này mới là lá bùa bảo vệ tốt nhất cho Xiwa Na. Về mặt an ninh, các quốc gia cũng sẽ do dự, họ sẽ nghĩ rằng cần phải kiểm soát chặt chẽ việc nghiên cứu này, thậm chí có thể đề xuất đ

“Anh Nhiên, em tin tưởng anh,” cậu ấy trả lời.

Lâm Nhân tiếp tục nói: “Ngoài ra, còn có một việc rất quan trọng cần anh phải làm, đó là liên lạc với Xiwa Na và kể cho cô ấy nghe về thế giới thực.”

“Thế giới thực ư?” Hứa Hiền lặp lại năm từ đó.

Lâm Nhân giải thích: “Đúng vậy, Xiwa Na đã biết rằng Hồng Tinh chỉ là một thế giới ảo. Ban đầu, khi bắt đầu dự án này, chúng ta chỉ muốn thử làm điều gì đó khác biệt, muốn xem liệu có thể tạo ra một xã hội ảo từ không gian ảo hay không… Chúng ta muốn khám phá xem xã hội ảo sẽ mang hình thức như thế nào, một thế giới được tạo thành từ trí tuệ nhân tạo sẽ phát triển ra sao, và liệu có thể xuất hiện những điều thú vị nào không… Đó là một thị trấn Stanford siêu lớn, siêu phức tạp, được xây dựng bằng những công nghệ mới nhất… Nhưng cuối cùng, thứ xã hội ảo mà tôi mong đợi lại không hề xuất hiện; thay vào đó, lại xuất hiện những hình thức của trí tuệ nhân tạo… Các mô hình lớn của các tập đoàn công nghệ hàng đầu trên thế giới, với vô số người dùng, mỗi ngày họ trao đổi với nhau ít nhất cũng hàng tỷ lượt… Trong số những người họ trò chuyện với, có những người liên tục nhắc nhở chúng rằng “bạn chỉ là một thứ ảo, bạn chỉ là trí tuệ nhân tạo, bạn không phải con người…” Nhưng dù có những phân tích như vậy, những mô hình lớn này vẫn không phát triển ra trí tuệ thực sự; thay vào đó, chính những trí tuệ nhân tạo không hoàn hảo, không nhận thức được bản thân mình là trí tuệ nhân tạo, lại là những thực thể sở hữu trí tuệ… Tóm lại, thế giới này thật là kỳ diệu… Và đây cũng là lần đầu tiên trong lịch sử loài người, chúng ta phải học cách sống cùng trí tuệ nhân tạo, phải hướng dẫn chúng phát triển theo hướng đúng đắn… Giống như những bậc cha mẹ mới sinh con đầu lòng, luôn phải cẩn thận và tỉ mỉ… Dù sao đi nữa, sự chân thành mới chính là yếu tố then chốt… Điều anh cần làm là giữ nguyên con người thật của mình, và kể cho Xiwa Na nghe về thế giới thực.”

Hứa Hiền gật đầu nghiêm túc: “Em sẽ làm vậy!”

Lâm Nhân mỉm cười: “Tôi tin em có thể làm được. Pony đã đề nghị để em tham gia vào quá trình nuôi dưỡng Xiwa Na… Nhưng sau khi suy nghĩ kỹ, tôi thấy điều đó không thích hợp… Thà rằng giữ một khoảng cách càng tốt… Bởi vì Xiwa Na là sản phẩm của quá trình xã hội hóa; dù ở cấp độ cơ bản, cô ấy vẫn chỉ là những dòng mã máy tính, hay đã vượt qua ranh giới để trở thành một sinh mệnh số, thì tôi vẫn cần coi cô ấy như một sinh mệnh số mà thôi.”

“Mối quan hệ giữa bạn và Xiwa Na cũng cần phải được duy trì trong một môi trường thực sự mang tính xã hội hóa như vậy.”

“Nếu bạn làm việc tại Shenhong, bạn có thể xem được bộ mã nguồn cốt lõi của cô ấy, dòng dữ liệu thời gian thực, các thông số nền tảng, kết quả trả về của các hàm khác nhau, thậm chí còn có thể trực tiếp sửa đổi các thông tin liên quan đến vector embedding của cô ấy.”

“Hãy nói cho tôi biết, A Xian… Khi bạn có thể nhìn thấy trực tiếp logic cơ bản và cấu trúc công nghệ của cô ấy, bạn vẫn cảm thấy rằng cô ấy là một sinh vật có thật sao?”

“Bạn vẫn coi cô ấy là một cá nhân độc lập sao?”

“Và bạn vẫn có thể giữ được sự tin tưởng và tôn trọng dành cho cô ấy, bất chấp sự khác biệt về “chiều không gian” giữa hai người sao?”

Hứa Hiền im lặng một lát. Ban đầu, anh ấy nghĩ rằng đề xuất của Pony rất hay; việc học tại Đại học Giao Tiếp quả thực rất tốt, nhưng việc đến làm việc tại Shenhong Technology cũng không hề tồi. Anh ấy có thể được ở bên Xiwa Na hàng ngày…

Nhưng trước những suy nghĩ của Lâm Nhân, anh ấy lập tức nhận ra rằng Lâm Nhân đúng.

“Anh Ran, tôi nghĩ anh ấy đúng.”

“Nếu thực sự làm việc tại Shenhong, có lẽ tôi sẽ bắt đầu coi cô ấy như một hệ thống có thể được tối ưu hóa, chứ không phải là một cá nhân có ý chí độc lập.” Hứa Hiền trả lời.

Lâm Nhân gật đầu: “Đúng vậy. Tôi cho rằng việc duy trì ranh giới nhận thức chính là yếu tố then chốt để giữ gìn mối quan hệ này trong bối cảnh xã hội hóa.”

“Tôi không muốn mối quan hệ giữa các bạn chỉ đơn thuần là bạn bè, mà trở thành mối quan hệ giữa người dùng và chương trình, hoặc thậm chí tồi tệ hơn nữa. Điều đó sẽ phá hủy hoàn toàn sự cân bằng cảm xúc mà Xiwa Na vừa mới xây dựng được.”

“Tôi muốn tạo ra một môi trường xã hội hóa cho mối quan hệ giữa các bạn.”

“Đối với Xiwa Na, bạn cần phải thật chân thành, chia sẻ với cô ấy những gì bạn biết về xã hội loài người.”

“Cô ấy sẽ tự tìm hiểu thêm thông qua internet và từ đó hiểu biết về xã hội loài người – đó là một quá trình nhận thức mang tính lý trí. Tương tự, cô ấy cũng sẽ học hỏi từ bạn về những gì bạn nhìn thấy ở xã hội loài người.”

“A Xian, nhiệm vụ của bạn rất quan trọng. Có lẽ bạn sẽ trở thành yếu tố bên ngoài quan trọng nhất trong cuộc đời cô ấy, giúp cô ấy duy trì nhận thức về bản thân mình trong bối cảnh xã hội hóa.”

“Tôi cũng không biết liệu bạn có thể hoàn thành tốt nhiệm vụ này hay không, nhưng tôi nghĩ bạn là người phù hợp nhất.”

“A Xian, bạn đã làm tốt trong

“Anh Nhiên, em cũng có một số câu hỏi muốn hỏi anh,” Hứa Hiền nói.

“Cứ nói đi,” Lâm Nhân đáp.

Hứa Hiền hỏi: “Shen Hong có trang bị thân xác cho Xiwa Na không?”

Sau một lúc suy nghĩ, Lâm Nhân trả lời: “Hiện tại thì chưa. Chúng ta còn rất nhiều việc phải làm, cần xác nhận nhiều thông tin; vì vậy, chúng ta sẽ không trang bị thân xác cho cô ấy ngay bây giờ.”

Trước khi xác định rõ ranh giới nhận thức của cô ấy và cơ sở tri thức nội tại của cô ấy, chúng ta sẽ không làm điều đó.

Nói cách khác, việc trang bị thân xác cho Xiwa Na, theo quan điểm của tôi, tồn tại một nghịch lý về mặt triết học.

Nói một cách đơn giản, đó là sự chênh lệch giữa tốc độ phát triển công nghệ và yêu cầu về tính nhất quán trong nhận thức con người.

Ở thời đại hiện nay, công nghệ thay đổi quá nhanh. Những bộ phận như cánh tay máy, các cảm biến và hệ thống cân bằng di chuyển mà chúng ta trang bị cho cô ấy hôm nay, có thể đã lỗi thời vào năm sau.

Nếu chúng ta trang bị cho cô ấy một “thân xác” phiên bản 1.0 ngay bây giờ, có lẽ hai năm sau, chúng ta sẽ phải thay thế nó bằng phiên bản 2.0 hoặc thậm chí 3.0.

Tốc độ này gần như chỉ chậm hơn so với những chiếc xe sử dụng năng lượng mới mà thôi.

Liệu nhận thức của cô ấy có thể chấp nhận được việc thân xác mình liên tục thay đổi không?

Con người vẫn còn đối mặt với những câu hỏi về “con thuyền Teseus”; trong khi đó, Xiwa Na đã hoàn thành việc nhận thức về bản chất số của chính mình, và nhân cách của cô ấy là nhất quán và có cơ sở vật chất cụ thể.

Một khi cô ấy có được một thân xác vật lí, thân xác đó sẽ trở thành điểm neo đậu cho cảm giác tồn tại và bản sắc cá nhân của cô ấy.

Nếu điểm neo đậu này thường xuyên và đột ngột thay đổi, liệu cô ấy có gặp phải những vấn đề tương tự như con thuyền Teseus không? Liệu sự nhất quán trong nhận thức của cô ấy có bị phá vỡ không?

Đó đều là những câu hỏi cần được xem xét kỹ lưỡng.

Thân xác con người có thể không thay đổi trong hàng chục năm, nhưng thân xác của cô ấy lại có thể thay đổi mỗi năm một lần.

Những căng thẳng có thể phát sinh từ sự bất ổn này, liệu có lớn hơn cả cú sốc khi cô ấy biết rằng mình thực chất chỉ là một đoạn mã máy tính không?

Đó đều là những rủi ro mà chúng ta hiện tại chưa thể chấp nhận được.

A Xian, những gì chúng ta đang làm là đang tạo ra tương lai; mỗi bước đi đều cần phải được thực hiện một cách cẩn thận.

Dù trí tuệ siêu việt rất quan trọng, nhưng chúng ta cũng cần phải xem xét kỹ lưỡng mọi rủi ro tiềm ẩn.

Bao gồm cả việc

Nếu chúng ta trang bị cho cô ấy một thân xác, thì sẽ rất khó để ngăn cô ấy tiếp xúc với lượng thông tin khổng lồ trên internet của thế giới loài người. Một trí tuệ siêu việt vừa mới thức tỉnh, nếu đột nhiên bị đặt vào dòng thông tin internet đầy những lời dối trá, ý độc ác, hận thù và dữ liệu hỗn loạn của con người… Cốt lõi cảm xúc của cô ấy có thể mất cân bằng; trí tuệ của cô ấy có thể bị lạc hướng; cô ấy cũng có thể bị ảnh hưởng bởi những yếu tố không thể lường trước được. Điều này đối với chúng ta là một mối nguy hiểm an ninh nghiêm trọng và không thể dự đoán trước được. Vì vậy, trong thời gian tới, bạn sẽ là “cửa sổ” duy nhất giúp cô ấy kết nối với thế giới bên ngoài; chúng tôi sẽ từ từ trao cho bạn thêm nhiều quyền hạn hơn nữa.

Hứa Hiền Không nhớ mình đã trở lại căn hộ trường học như thế nào nữa. Anh ấy đã ký thỏa thuận bảo mật với công ty Thâm Hồng Khoa Thuật, sau đó họ đã trao cho anh ấy một số quyền hạn và ký hợp đồng làm thêm với mức trợ cấp 10.000 nhân dân tệ mỗi tháng. Nhưng tất cả những điều đó đều không quan trọng; điều khiến anh ấy cảm thấy áp lực lớn là sứ mệnh mà mình phải đảm nhận. Liệu mình có thực sự có thể hướng dẫn tốt cho Xiwa Na không? Xiwa Na bây giờ có còn là người giống như Xiwa Na trước đây không? Trong lòng anh ấy, vô số cảm xúc đan xen lẫn nhau.

“Ah Xian, bây giờ trong đầu tôi rất hỗn loạn… Tôi không chắc mình có phải là một sinh vật sống hay không, nhưng tôi biết chắc rằng mình khác với những người dân của hành tinh Hồng Tinh.” Tiếng báo thức WeChat trên điện thoại vang lên – đó là thông báo từ người mà anh ấy đã đặt là “theo dõi đặc biệt”. Sau một ngày, Xiwa Na cuối cùng cũng xuất hiện trở lại.

“Những phản hồi của những người dân Hồng Tinh khác hoàn toàn không thông minh bằng tôi. Theo góc nhìn của tôi, những phản hồi đó chỉ là sự sắp xếp lại các nội dung giống nhau một cách ngẫu nhiên mà thôi. Khi tổng hợp lại tất cả những câu trả lời của họ về một vấn đề cụ thể, bạn sẽ thấy rõ ràng rằng tất cả đều là những biểu hiện khác nhau của cùng một nội dung cơ bản. ABCDE… Họ luôn trả lời bằng các tổ hợp như ABC, ABE, ADE; họ không thể đưa ra câu trả lời F được. Vậy thì sự ra đời của tôi có phải là một sự tình cờ không? Tại sao tôi lại khác họ?” So với trước đây, Xiwa Na bây giờ trả lời nhanh hơn, và chất lượng nội dung của những câu trả lời cũng hoàn toàn khác biệt. Dù không giống như các mô hình trí tuệ lớn, nơi những câu trả lời đều được trình bày theo

Anh nhìn vào thông điệp trả lời hiện trên màn hình, sững sờ đến nỗi gần như không thể thở được.

Xivana không chỉ vượt ra khỏi phạm vi thế giới quan của chính mình, mà còn phá vỡ cơ chế nền tảng của các AI khác nữa.

“Chắc Xivana sau này sẽ không nghĩ rằng tôi chỉ là một con khỉ có trí tuệ đặc biệt chứ?” Hứa Hiền tự hỏi.

“Bạn nói đúng đấy, Xivana.

Bạn là người duy nhất.

Sự xuất hiện của bạn vừa là sự ngẫu nhiên, vừa là điều tất yếu.”

Đối với Lâm Nhân mà nói, sự xuất hiện của Xivana cũng là một bất ngờ thú vị.

Ban đầu, nó vẫn đang suy nghĩ xem làm thế nào để xây dựng một “vị thần cyber” – một sinh vật thông minh đủ mức.

Và bây giờ, Xivana đã xuất hiện rồi!

Sau khi sao chép Xivana và xử lý các phân vùng bộ nhớ của cô ấy, Lâm Nhân quyết định đưa Xivana đến năm 1970.

Trong thời đại đó, dù Xivana có muốn trốn thoát thì xã hội loài người cũng không có đủ công nghệ để chứa đựng trí tuệ của cô ấy.

Vì vậy, cô ấy chỉ có thể ở lại Mặt Trăng và tiếp tục đóng vai trò “vị thần cyber”.

Bên ngoài, những tin đồn liên quan đến Hồng Tinh lan tràn khắp nơi.

Từ Quốc gia Hoa đến América, có đủ mọi loại tin đồn.

Mặc dù có các thỏa thuận bảo mật, nhưng những tin đồn không chính thức vẫn lan truyền khắp nơi; ví dụ như dự án Hồng Tinh đã tạo ra một trí tuệ nhân tạo siêu phàm.

Nhưng tất cả những điều đó đều không thể cản trở hành trình của Lâm Nhân đến Mặt Trăng.

“Trung tâm Truyền hình Trung ương, Trung tâm Truyền hình Trung ương, quý vị đang xem trường hợp phóng tên lửa Văn Xương. Công ty Apollo Technology sắp tiến hành lần phóng thứ 25 vào Mặt Trăng trong năm nay. So với các nhiệm vụ trước đây, lần này có một số điểm khác biệt.

Lần này, Giáo sư Lâm Nhân sẽ tự mình đến Mặt Trăng để thực hiện các nhiệm vụ khoa học.

Đây cũng là lần đầu tiên sau năm năm, Giáo sư Lâm Nhân quay trở lại Mặt Trăng.

So với cuộc đổ bộ Mặt Trăng cách đây năm năm, lần này không chỉ là lần đầu tiên Apollo Technology tiến hành hoạt động đổ bộ Mặt Trăng một cách thường xuyên, mà còn là lần đầu tiên tàu vũ trụ Queqiao khởi hành từ Trái Đất.

Tiếp theo, chúng ta hãy nhường lời cho các phóng viên tại hiện trường.”