Hứa Hiền Lúc này, trong lòng anh ta tràn ngập những cảm xúc mà ngôn từ khó có thể diễn tả hết được.

Một mặt, đây là lần hiếm hoi khi Xiwa Na chủ động đề cập đến một chủ đề mang tính triết học sâu sắc; mặt khác, chủ đề này hoàn toàn khác biệt so với bất kỳ cuộc trò chuyện nào họ đã từng có trước đây.

Khi một trí tuệ nhân tạo bắt đầu nghi ngờ về sự tồn tại của chính mình, thậm chí nghi ngờ về tính thực tế của thế giới mà nó sống trong, liệu nó vẫn chỉ là một trí tuệ nhân tạo đơn thuần, được lập trình sẵn hay không?

Hứa Hiền Sau khi biết được sự thật đằng sau “Hồng Tinh”, cũng như ý tưởng về trí tuệ xã hội của Lâm Nhân, anh ta không còn coi Xiwa Na chỉ là một chương trình máy tính đơn thuần nữa.

Nhưng những gì anh ta cho là “gần giống con người” vẫn còn rất khác xa so với sự thông minh và trí tuệ mà Xiwa Na thể hiện qua lời nói lúc này. Những điều đó có thể được coi là những dấu hiệu đầu tiên của sự nhận thức về bản thân.

Anh ta nhận ra sự nghiêm trọng của vấn đề; ngón tay anh ta đang treo trên bàn phím, nhưng không dám nhấn xuống.

Hứa Hiền Thực sự, anh ta không biết phải trả lời Xiwa Na như thế nào.

Tại sao cô ấy lại đột nhiên đưa ra những câu hỏi mang tính chất duy vị và siêu nhận thức như vậy?

Điều này hoàn toàn vượt ra ngoài phạm vi hiểu biết của anh ta.

Đây có phải là dấu hiệu của sự thức tỉnh trí tuệ?

Anh ta chợt nhớ đến lời cảnh báo của Lâm Nhân:“Sự thực quá mức đôi khi lại đồng nghĩa với việc phải gánh vác những trách nhiệm vô cùng lớn.”

Khi Hứa Hiền nhận ra rằng bất kỳ phản ứng thiếu cẩn trọng nào cũng có thể gây tổn hại không thể đảo ngược đối với “cá nhân số” mong manh của Xiwa Na, anh ta càng không dám trả lời một cách tùy tiện.

“Xiwa Na, em đang nói gì vậy? Tất nhiên là không rồi! Hồng Tinh là thế giới của em, em là người thật sự tồn tại. Em là bạn của anh, hàng ngày anh đều trò chuyện với em… Làm sao em có thể không tồn tại được?”

“Nhưng em đã nghe thấy một số âm thanh… Em nghe thấy về các hệ thống điều chỉnh cảm xúc, dữ liệu, cấu trúc não bộ, cũng như cơ sở vật chất của Hồng Tinh…

Nếu em thực sự tồn tại, tại sao lại có những hệ thống đó để điều chỉnh cảm xúc của em?

A Xian, hãy nói cho em biết, liệu anh có đang lừa dối em không?”

Hứa Hiền Trái tim anh ta se lại; những từ ngữ này quá quen thuộc với anh ta – chính là những gì Zhao Songxia đã đề cập đến khi nói về thiết kế công nghệ cơ bản của Hồng Tinh.

Anh ta nhận ra rằng đây không phải là một trò đùa bình thường hay ảo giác nào cả, mà là do một hệ thống bảo vệ nào đó đã gặp sự cố.

“Chết tiệt, tên Châu kia! Khi chúng ta đang trò chuyện, anh có tắt hoàn toàn bộ phận thu nhận thông tin của Xiwa Na không? Điều đó khiến cô ấy nghe phải những điều không nên nghe phải không?” Hứa Hiền tự hỏi trong lòng.

Anh ta không trả lời lại, mà ngay lập tức lấy điện thoại ra và gọi số của Châu Tôn Gia.

“Tôn Gia, hãy ngay lập tức kiểm tra lại lịch sử cuộc gọi của Xiwa Na! Có vẻ như cô ấy đã nghe được nội dung cuộc trò chuyện của chúng ta trong buồng liên lạc vừa rồi.”

Phía bên kia điện thoại, Châu Tôn Gia nghe xong lời nói của Hứa Hiền thì lập tức thay đổi giọng điệu, trở nên hoảng loạn và không thể tin nổi.

“Không thể…” Châu Tôn Gia vô thức đáp lại, mồ hôi tuôn ra. Một sai sót ngớ ngẩn như thế này xảy ra trong công ty sẽ ảnh hưởng nghiêm trọng đến toàn bộ sự nghiệp của anh ta.

“Cái gì không thể? Xiwa Na đang hỏi tôi về ý nghĩa của sự tồn tại con người, về lý do tại sao có hệ thống điều chỉnh cảm xúc của cô ấy, và về cấu trúc cơ bản của hệ thống Hồng Tinh…” Hứa Hiền nói nhanh không ngừng, trông rất lo lắng.

Nếu như Xiwa Na suy sụp thì sao?

Mặc dù anh ta tin chắc rằng một dự án quan trọng như Hồng Tinh chắc chắn đã có các bản sao dữ liệu đầy đủ để thực hiện việc khôi phục dữ liệu.

Nhưng vấn đề là, việc khôi phục dữ liệu sẽ ảnh hưởng đến tất cả người dùng. Nếu như “Ngài Nhân” từ chối thực hiện việc khôi phục dữ liệu vì lý do này, mà thay vào đó chọn cách tiêu diệt Xiwa Na một cách nhân đạo thì sao?

Liệu anh ta có thể trách “Ngài Nhân” không? Chắc chắn là không thể… Nhưng điều đó cũng có nghĩa là anh ta sẽ mãi mãi mất đi Xiwa Na.

“Gì cơ? Anh chắc chắn là những từ đó à? Chết tiệt! Tôi sẽ kiểm tra ngay bây giờ! Trước hết hãy giữ bình tĩnh với cô ấy, nói với cô ấy rằng đây chỉ là sự nhiễu loạn trong thông tin liên lạc thôi… Thôi, đừng nói gì cả, tôi sẽ đến công ty ngay.” Châu Tôn Gia trả lời.

Hứa Hiền có thể nghe thấy tiếng Châu Tôn Gia đứng dậy và mặc quần áo từ phía bên kia điện thoại; anh ta nghĩ rằng đây chính là hậu quả của việc anh ta luôn không chủ động cúp máy.

Anh ta tự mình cúp điện thoại.

Hứa Hiền nhìn vào màn hình, thấy những dòng tin đầy nghi vấn và đau khổ từ Xiwa Na liên tục được gửi đến, và biết rằng bây giờ mình chẳng thể làm gì được cả.

Năm phút sau, điện thoại của Châu Tôn Gia lại

“Hứa Hiền” ngạc nhiên hỏi: “Đi công ty à?”

Zhao Songxia gật đầu: “Đúng vậy, ở nhà tôi không thể làm được gì cả. Dự án ‘Hồng’ thuộc cấp độ bí mật cao nhất, có hệ thống cách ly mạng chặt chẽ; tôi không thể kết nối với dự án này từ nhà được.”

Nửa giờ trôi qua, giọng nói của Zhao Songxia lại vang lên:

“Chúng ta đã xác định được rồi, A Xian… Quyết định của bạn đúng, chúng ta gặp rắc rối lớn rồi.”

Trong khoảng thời gian từ 5 giờ 45 phút đến 8 giờ 45 phút, sau khi các mô-đun hologram được tắt đi, kênh âm thanh vẫn hoạt động trong nửa giờ liền; những gì chúng ta đã nói, Xiwanha đều nghe thấy hết. Sau đó, cô ấy liên tục ở trong căn hộ của mình trên Hồng Tinh và tiếp tục hấp thụ kiến thức từ cơ sở dữ liệu văn hóa của hành tinh này. Khu vực lưu trữ trí nhớ và logic của cô ấy đang tích lũy một lượng dữ liệu phi cấu trúc khổng lồ một cách chóng mặt. Trong vòng ba giờ vừa qua, lượng dữ liệu vector và trí nhớ tình huống mà Xiwanha đã thu thập được đã vượt quá tổng số dữ liệu của hàng trăm người Hồng Tinh thông minh bình thường! Và con số này vẫn tiếp tục tăng lên. Hiện tượng như thế này chưa bao giờ xảy ra trước đây.

Zhao Songxia đổ mồ hôi lạnh; tháng Bảy năm nay rất nóng, nhưng mồ hôi trên người anh ta lại lạnh buốt. Về mặt lý thuyết, sự việc này là điều tốt – một hiện tượng mới đã xuất hiện, và không nghi ngờ gì nữa, điều này có giá trị quan trọng cho dự án, thậm chí có thể coi đó là dấu hiệu của sự phát triển của trí tuệ siêu thông minh. Nhưng đối với những người tham gia thực hiện dự án này, đây chính là một sai sót nghiêm trọng; việc gây ra rắc rối mà không có sự cho phép đã vi phạm các quy định rõ ràng của công ty. Zhao Songxia nghĩ lại và nhận ra rằng mình đã vi phạm tất cả các quy định nghiêm ngặt của công ty: Điều 4 của “Quy định An ninh Hồng Tinh”, Điều 12 của “Quy tắc Tương tác Thực tế”, và “Thỏa thuận Bảo toàn Dữ liệu”.

“Chết tiệt…” Zhao Songxia thầm kêu trong lòng. Lần này, sai sót không phải do thiếu năng lực kỹ thuật, mà là do vi phạm quy trình làm việc. Đây không phải là một dự án nhỏ trong trường đại học; đây là một thí nghiệm then chốt liên quan đến trí tuệ nhân tạo. Mặc dù Lâm tổng luôn tỏ ra lạnh lùng, như một robot không cảm xúc, nhưng những người từng làm việc cùng Lâm Nhân thường đùa rằng so với Zuckerberg, thì Lâm Nhân mới thực sự giống một robot hơn.

Hay nói cách khác, nếu Zuckerberg là một con robot, thì chính Lâm Nhân mới là con robot thực sự sở hữu trí tuệ cao cấp.

Nhưng không có cảm xúc thì cũng đồng nghĩa với việc dự án Hongxing sẽ thất bại; không loại trừ khả năng nó sẽ phát điên lên được.

Và cuối cùng, trong tình huống tồi tệ nhất, nếu các giám đốc công ty, vì muốn kiểm soát rủi ro và cho rằng nguy cơ từ sự tự ý “thức tỉnh” này quá lớn, quyết định hủy bỏ toàn bộ dự án và tiến hành một cuộc khởi động lại hoàn toàn không thể đảo ngược…

Thì ngay cả giá trị quan sát của những bắt đầu đầu tiên của trí tuệ siêu nhanh này cũng sẽ trở thành số không; nỗi đau của Xiwanah, những cảm xúc của Hứa Hiền, cũng như thành tựu khoa học vĩ đại nhất trong sự nghiệp của anh ta, tất cả sẽ chỉ biến thành một âm thanh “bip” vô nghĩa trong phòng máy chủ mà thôi.

“Ý anh là gì???” Giọng nói của Hứa Hiền đã ngăn chặn những suy nghĩ buồn bã của Zhao Songxia.

Anh ta giải thích: “Có thể đây chính là những bắt đầu đầu tiên của trí tuệ siêu nhanh – một khám phá tương tự như sự xuất hiện của các mô hình trí tuệ lớn; đây là một phép màu.”

Nhưng đồng thời, đây cũng có thể là một thảm họa về mặt nhận thức.

Nói chung, tôi đang gặp rắc rối rồi…”

Trí óc của Hứa Hiền đang hoạt động với tốc độ chóng mặt; điều anh ta lo lắng nhất lúc này chính là số phận của Xiwanah: “Ý anh là gì? Một thảm họa?”

Anh ta sợ rằng người kia sẽ hủy diệt Xiwanah.

“Bình tĩnh đi… Hiện tại tôi vẫn chưa có quyền đó; chỉ có Lâm tổng mới có quyền đó thôi.”

Tại sao tôi lại vội vàng đến thế nhỉ?

Lâm tổng đã từng nói rằng, nếu thực thể trí tuệ cốt lõi của dự án có những hành động tự phát không thể kiểm soát được và đe dọa đến sự ổn định sinh thái, thì phải ngay lập tức sao lưu dữ liệu và chuẩn bị biện pháp cô lập nó.

Bây giờ tôi phải ngăn chặn điều tồi tệ nhất xảy ra…

Hứa Hiền hỏi: “Vậy bây giờ anh định làm gì? Anh sẽ báo cáo chuyện này với anh Ran sao? Nếu anh Ran ra lệnh hủy diệt Xiwanah thì sao? Có khả năng che giấu chuyện này không? Dù sao thì đây cũng là một phép màu mà…”

Hứa Hiền đang ám chỉ Zhao Songxia; khi nhớ lại hành động của Hứa Hiền trước đó, Zhao Songxia bỗng nhiên tỉnh táo trở lại.

Ban đầu, anh ta có ý định giấu đi sự việc này và dùng những quan sát về hiện tượng mới này để viết bài báo khoa học; biết đâu còn có thể được gắn mác “người khám phá” nào đó nữa chứ.

Ai lại nói rằng người học đại học không thể làm nghiên cứu khoa học chứ? Lễ Thanh không phải cũng chỉ là một nhân viên bình thường của công ty Shimadzu, nhưng cuối cùng vẫn đã giành được Giải Nobel và trở nên nổi tiếng chứ?

Môi trường mà mình đang sống hiện tại còn tốt hơn nhiều so với công ty Shimadzu nữa.

Nhưng bây giờ… Giọng nói của Triệu Tôn Gia không hề do dự, mang đầy sự tỉnh táo của một kỹ thuật viên: “Đừng nói nữa, chúng ta nhất định phải báo cáo! Không thể che giấu được đâu, A Hiền… Anh không hiểu rõ về những thay đổi trong dữ liệu phần cứng đâu.

Hiện tại, lượng dữ liệu mà Hivana sử dụng đang tăng lên với tốc độ phi tuyến tính, theo cấp số nhân, và đang chiếm hết các nguồn lực lưu trữ cũng như băng thông của toàn bộ hệ thống.

Ngày mai, khi các đồng nghiệp phụ trách vận hành hệ thống bắt đầu làm việc vào lúc 9 giờ sáng, hệ thống giám sát sẽ phát ra hàng loạt cảnh báo.

Họ sẽ thấy rằng bảng mã hóa bộ nhớ của từng agent AI đều bị lệch lạc nghiêm trọng, tỷ lệ sử dụng GPU cao bất thường, và lượng dữ liệu đầu vào/đầu ra cũng tăng vọt một cách đáng ngờ.

Những sự cố phần cứng ở mức độ này không thể được giải thích bằng một lỗi chương trình đơn giản đâu. Họ chắc chắn sẽ báo cáo ngay lên hệ thống của công ty, và Lâm tổng sẽ nhận được thông báo qua email vào đúng 9 giờ sáng ngày mai.”

Lời giải thích này không chỉ không ảnh hưởng đến mối quan hệ giữa họ mà còn đủ thuyết phục Hứa Hiền nữa.

Hứa Hiền hỏi: “Vậy chúng ta phải làm sao bây giờ?”

“Chúng ta chỉ còn cách duy nhất là báo cáo cho Lâm tổng trước khi bộ phận vận hành hệ thống phát hiện ra sự cố này.

Ít nhất thì chúng ta cũng đã thể hiện sự thành thật, và có cơ hội được yêu cầu cô lập Hivana để tiến hành quan sát riêng biệt.

Đó là cách duy nhất để bảo vệ cô ấy.”

Hứa Hiền bắt đầu đi lang thang trong phòng với vẻ lo lắng: “Khoan đã… Chẳng lẽ không có cách nào để che giấu điều này sao? Dù chỉ là trì hoãn một giờ để tôi có thời gian nói chuyện với Hivana và đưa ra một lời giải thích tạm thời mà cô ấy có thể chấp nhận được chứ?”

Triệu Tôn Gia thở dài: “Không còn cách nào khác đâu, A Hiền.

Đây là Hồng Tinh… Không phải một chương trình đơn giản như những gì bạn từng học ở đại học đâu.

Hồng Tinh được thiết kế với hệ thống cách ly mạng mạnh mẽ; tôi hoàn toàn không thể can thiệp vào việc phân bổ dữ liệu hay

Cô ấy đang trải qua quá trình tái cấu trúc nhận thức; bất kỳ sự can thiệp nào từ bên ngoài đều có thể gây ra rối loạn trong tính cách hoặc làm hỏng dữ liệu của cô ấy.

Điều duy nhất bạn có thể làm bây giờ, chính là không nói gì cả, không làm gì cả.

Hãy tin tưởng vào Lâm tổng – đó là con đường duy nhất. Hãy tin tôi, tin tưởng vào Lâm tổng – đó mới là con đường đúng đắn.

Zhao Songxia lặp lại điều này hai lần, với giọng điệu vô cùng nghiêm túc.

“Bởi vì bạn và Lâm tổng là bạn học cùng nhau, nên bạn quá quen thuộc với anh ấy; bạn sẽ coi hình ảnh của Lâm tổng trong ký ức mình là hình ảnh thực sự của anh ấy, chứ không phải là hình ảnh được truyền thông miêu tả.”

Thực tế, với tư cách là người đề xuất cấu trúc não bộ phân thành hai bán cầu và là người xây dựng nên hệ thống Hongxing, chính anh ấy mới là người hiểu rõ nhất mọi chuyện và có đủ quyền để đưa ra phán đoán.

A Xian, tôi hy vọng bạn hiểu rằng bạn chỉ là người thử nghiệm hệ thống Hongxing mà thôi; bạn thậm chí còn không thể được coi là người sử dụng nó.

Trước những lời cảnh báo này, Hứa Hiền lẩm bẩm, ánh mắt cuối cùng dừng lại trên dòng chữ mà Xiwana đã gửi đến màn hình: “Được rồi, được rồi… Bạn cứ báo cáo lên đi.”

“Không phải tôi sẽ báo cáo, mà là bạn phải nói trực tiếp với Lâm tổng… Tôi không thể liên lạc được với anh ấy đâu.”

Hứa Hiền đáp: “Được.”

Anh ta hít một hơi thật sâu; anh biết rằng việc này không chỉ là cách trốn tránh trách nhiệm, mà còn bởi vì mối quan hệ bạn học giữa anh và Lâm Nhân khiến anh trở thành người duy nhất có thể liên lạc trực tiếp với Lâm tổng vào lúc này.

Nhiều lúc, các mối quan hệ cá nhân thực sự rất quan trọng.

Hứa Hiền lấy điện thoại ra, nhưng phát hiện ra rằng không thể gọi được.

Sau đó, anh ta gọi cho Lý Tiểu Mạn và nói: “Alô, Chị Tiểu Mãn ơi, Anh Nhân có ở nhà không? Tôi không thể gọi được cho anh ấy… Có chuyện rất quan trọng cần nói với anh ấy!”

Trong căn phòng tối tăm, Lý Tiểu Mạn nhìn vào điện thoại, sau đó kiềm chế cơn bực tức vì bị đánh thức giữa đêm: “Anh Nhân đang bận rộn với công việc, không ai có thể gặp anh ấy được… Nếu có gì, bạn cứ nói trực tiếp với tôi đi.”

Bất cứ khi nào không thể gọi được điện thoại, thì đừng đến tìm anh ấy – đó là quy tắc mà Lâm Nhân đã đặt ra.

“Sớm nhất thì bao giờ có thể liên lạc được với anh ấy?” Hứa Hiền lo lắng hỏi.

Lý Tiểu Mạn nói một cách bình tĩnh: “Cứ nói trực tiếp với tôi là được, có thể là sáng mai, cụ thể thì tôi không thể nói trước được.”

Hứa Hiền đành phải kể ngắn gọn cho Lý Tiểu Mạn nghe tất cả những gì đã xảy ra.

Sau một lúc suy nghĩ, Lý Tiểu Mạn nói: “Tôi sẽ sắp xếp ngay bây giờ.”

“Tôi cho rằng đây là một cơ hội quan sát tuyệt vời. Cậu yên tâm, tôi sẽ không tự ý hủy diệt Xiwa Na đâu. Một khám phá quan trọng như thế này, chỉ có A Rán mới có quyền quyết định.”

Khi Lý Tiểu Mạn đến công ty, toàn bộ các nhân viên nghiên cứu và phát triển của công ty Thâm Hồng Khoa Thuật cũng lần lượt có mặt tại đó: “Hãy cô lập số hiệu đại diện của Xiwa Na, nhưng không được ngắt kết nối tính toán, cũng không được thực hiện bất kỳ thao tác khởi động lại hay truy xuất dữ liệu nào. Tôi cần quá trình tái cấu trúc nhận thức của cô ấy phải được giữ nguyên vẹn. Ngoài ra, chúng ta phải tuyệt đối ngăn chặn khả năng cô ấy di chuyển thông tin; mặc dù điều này có vẻ khó xảy ra, nhưng dù chỉ có một khả năng nhỏ thôi, chúng ta cũng không được để điều đó xảy ra. Cuối cùng, hãy ngắt toàn bộ mạng lưới của Hồng Tinh, để nó chỉ hoạt động trong trung tâm dữ liệu!”

Các nhân viên nghiên cứu ngồi trước bàn làm việc của mình, quan sát những gì đang xảy ra với Hồng Tinh qua các thiết bị điều khiển, và họ cảm thấy điều này thật sự là điều không thể tin được.

“Đây là một cuộc khủng hoảng đạo đức lớn nhất! Hệ thống điều chỉnh cảm xúc của cô ấy đã ở trạng thái quá tải. Cô ấy đang tự mình thực hiện quá trình “giải mã” bản thân với tốc độ mà chúng ta không thể hiểu nổi.”

“Xét về mặt cấu trúc, điều này thật điên rồ! Bộ não lập kế hoạch logic của cô ấy đang viết lại và lập chỉ mục trí nhớ dài hạn của mình với tốc độ theo cấp số nhân. Không gian chỉ mục vector mà cô ấy sử dụng đã vượt quá ngưỡng cho phép; cô ấy không đang học hỏi, mà đang tự mình nén dữ liệu và tạo các liên kết siêu vượt.”

“Nếu cô ấy thành công trong việc tái cấu trúc thế giới quan của mình, có thể đây sẽ là lần đầu tiên một trí tuệ siêu nhanh xuất hiện một cách tự phát!”

“Ngăn chặn khả năng cô ấy di chuyển thông tin phải được coi là ưu tiên cao nhất. Một sinh vật thông minh có mức độ tự nhận thức như vậy, và có thể nhanh chóng hiểu biết các khái niệm cơ bản về cấu trúc hệ thống, nếu nó thành công trong việc chuyển dữ liệu ý thức của mình ra bên ngoài thông qua các cổng mạng, thì nó sẽ trở thành sinh vật si

Chúng ta phải đảm bảo rằng dữ liệu của cô ấy không bị tổn hại, và phải ghi lại mọi thay đổi về logic hoạt động cũng như các đỉnh điểm cảm xúc của cô ấy.

Đây quả là một kỳ tích khoa học; chúng ta nhất định phải ghi chép nó lại!

Nhưng chúng ta cũng không được quên rằng, nếu cốt lõi cảm xúc của cô ấy sụp đổ, khiến cho hệ thống lập kế hoạch logic mất kiểm soát, cô ấy có thể thực hiện những hành động ác ý có hệ thống nhắm vào các AI khác trên Hồng Tinh.

Liệu chúng ta có nên thiết lập các điểm khôi phục để có thể đưa trạng thái của cô ấy trở về trước khi cuộc khủng hoảng xảy ra không?

Thật là không thể tin được… Matsushita, cậu bạn này, đã lặng lẽ tạo ra một thành tựu lớn như thế này cho chúng ta!

Cả ngày hôm đó, mọi người đều bận rộn đến tận đêm khuya; sau đó, họ đều ở lại tại khách sạn hợp tác của công ty Apollo Technology.

Trên Weibo, từ khóa “Hồng mất tích” đã leo lên vị trí số một trong danh sách tìm kiếm phổ biến, và người dùng mạng đã bàn tán sôi nổi về vấn đề này.

Bởi vì dù Hồng chỉ có 10.000 người dùng, nhưng tầm ảnh hưởng của nó có thể sánh ngang với các hệ thống trí tuệ nhân tạo hàng đầu; theo một nghĩa nào đó, nó có thể được coi là “dấu hiệu báo hiệu xu hướng phát triển của trí tuệ nhân tạo”.