“Anh chỉ để họ đi như vậy thôi sao? Tôi tưởng anh sẽ giết họ mất.”

Blyce trong xe có vẻ ngạc nhiên trước quyết định của Riel; anh ta cứ nghĩ rằng Riel sẽ tiêu diệt những kẻ từ nơi khác này.

“Chúng ta không có thù oán cá nhân gì cả, và tôi cũng không hề có thành kiến hay ý định tiêu diệt người ngoại tỉnh đâu.”

Riel ngồi vào chiếc taxi của Draman và cảm thấy có chút kỳ lạ. Trong lĩnh vực taxi dân dụng, Draman đã hoàn toàn thống trị thị trường Thành Phố Đêm, trở thành lựa chọn duy nhất khi không muốn phải đối mặt với những yêu cầu phức tạp của thị trường. Lần cuối cùng Riel sử dụng dịch vụ này là khi anh ta gọi xe để đội của Mann trốn thoát ở trung tâm thành phố.

Điều khiến Riel cảm thấy kỳ lạ là bởi vì Draman thực sự là một AI thật sự.

“Chào mừng quý khách sử dụng dịch vụ Draman, ông Hamburg.”

Hình ảnh của Draman xuất hiện trên màn hình điện tử phía trước ghế ngồi. Chiếc xe thuộc phiên bản tiêu chuẩn của Draman, được thiết kế dựa trên mẫu sedan doanh nghiệp kéo dài của Verelfort Curtis; không gian bên trong rộng rãi và thoải mái.

Riel ngồi ở hàng sau và gọi Draman: “Đích đến là đâu?”

“Quý khách đã đặt chuyến tham quan quanh Thành Phố Đêm. Chuyến đi này sẽ theo đúng lộ trình đã định, đến trung tâm thành phố Thành Phố Đêm trước khi quay lại địa điểm mà quý khách yêu cầu.”

“Tham quan à?” Riel nhìn Blyce và hỏi, “Ý anh là gì? Thời gian của tôi rất quý giá mà.”

Blyce cau mày: “Sao anh không tò mò xem tại sao ở Thành Phố Đêm lại có một công ty được vận hành bởi AI chứ?”

“Các anh biết à? Tôi tưởng các anh không hề biết đâu.”

“Ha ha, có lẽ anh đang đánh giá thấp lực lượng giám sát mạng internet quá đấy. Chúng tôi biết rằng công ty này hoàn toàn được kiểm soát bởi AI.”

“Vậy tại sao lại như vậy nhỉ?”

Riel lắng nghe với sự tò mò. Điều này thực sự khiến anh ta thắc mắc. Bởi vì trong nguyên tác, Draman đã từng có những dấu hiệu cho thấy nó sắp phát triển ý thức riêng. Và theo thuật ngữ của lực lượng giám sát mạng internet, loại AI như vậy được gọi là “thể thể hiện nguy cơ”, khác biệt hoàn toàn so với loại AI mà Riel đã từng tiếp xúc trước đây. Về mặt lý thuyết, mạng lan mà Draman sử dụng để cung cấp dịch vụ cũng nên có “bức tường đen” – hệ thống được thiết kế để ngăn chặn những thông tin nguy hiểm. Khi Draman phát triển ý thức riêng, bức tường đen đó lẽ ra phải được kích hoạt để tiêu diệt nó…

“Trong cuộc đối đầu với Arakawa, bạn đã tiếp xúc với loại AI đầu tiên – đó chính là những công cụ được sử dụng để sao chép ‘dấu ấn linh hồn’ con người. Nói một cách chính xác hơn, đó là những dữ liệu được tạo ra bằng công nghệ này; những dữ liệu này có phần khác biệt so với con người thực sự, nhưng về bản chất, chúng chỉ là những chuỗi dữ liệu, những chương trình máy tính được thiết kế để mô phỏng cảm xúc, ký ức và trải nghiệm của con người mà thôi.

Đây chính là loại AI đầu tiên, và chúng ta gọi chúng là ‘linh hồn số’.”

Arakawa đã sử dụng công nghệ này để phát triển dịch vụ cao cấp mang tên “Bảo vệ Linh Hồn Bạn”. Dịch vụ này rất đắt đỏ; khách hàng có thể sử dụng nó để lưu giữ “dấu ấn linh hồn” của người thân đã qua đời, và dấu ấn đó sẽ được lưu trữ trên các máy chủ đặc biệt của Arakawa. Khi khách hàng nhớ về người thân đã mất, những dấu ấn này sẽ được lấy ra từ máy chủ để giúp họ bày tỏ tình cảm nhớ nhung.

Tuy nhiên, dù Arakawa quảng bá công nghệ này như thế nào đi nữa, về mặt kỹ thuật mà nói, những “linh hồn số” này vẫn thuộc về loại AI.”

Những AI này được kiểm soát một cách rất tinh vi bởi nhóm Black Wall. Theo thông tin hiện có, họ không thể kiểm soát hoạt động của những công cụ này, và có thể cũng bỏ qua một số “linh hồn số” nào đó.”

“Loại thứ hai còn đặc biệt hơn nữa,” Bryce chỉ vào hình ảnh ông Old De trong màn hình và nói tiếp, “Nếu một ngày nào đó những AI này phát triển ra ý thức tự giác, chúng ta sẽ gọi chúng là những ‘thực thể nguy hiểm’. Những AI lưu lạc mà chúng ta thường nói đến chính là thuộc loại này. Hiện nay, trên thế giới này rất khó để gặp những AI như vậy, nhưng trong thời đại Internet cũ, chúng khá phổ biến.”

Vì vậy, chúng ta mới treo thưởng lớn để thu hút những người săn thưởng giúp đối phó với những thực thể nguy hiểm này. Loại AI này thực sự rất nguy hiểm.”

Chiếc xe đang đi lên cây cầu dẫn đến Hawood. Từ đây, có thể nhìn thấy những đoàn tàu điện ngầm chạy với tốc độ cao trên bầu trời; hệ thống đường sắt này kéo dài từ H7 Tòa nhà chọc trời ở Santo Domingo cho đến Trung tâm Y tế khu vực Bắc Watson, xuyên suốt khu vực Thành Phố Đêm từ nam lên bắc.

“Có thấy tuyến đường sắt số một không? Hàng ngày, hệ thống này vận chuyển hơn 5 triệu hành khách; nếu xảy ra sự cố, thiệt hại về kinh tế sẽ vô cùng lớn – ít nhất thì tập đoàn Night chắc chắn sẽ không thể chấp nhận điều đó được.”

“Hơn nữa, nếu hệ thống tàu điện ngầm chạy với tốc độ cao gặp sự cố, hậu quả có thể là mạng sống của toàn bộ hành khách trên tàu.

Nhờ vào công nghệ AI có khả năng kiểm soát tiên tiến của Tập đoàn Yè, hệ thống giao thông công cộng ở Thành Phố Đêm hoàn toàn không cần tài xế.

Tất cả các cơ sở hạ tầng công cộng trong thành phố đều thuộc về mạng lưới công cộng của Tập đoàn Yè. Nếu một hệ thống AI, vì tò mò hay bất kỳ lý do nào khác, khiến cho các đoàn tàu chạy trên đường ray tốc độ cao dừng lại, vượt quá tốc độ cho phép, thậm chí là rơi ra khỏi đường ray và gây ra tai nạn, điều này gần như là không thể tránh khỏi.

Việc xuất hiện những “thực thể nguy hiểm” như vậy thường xảy ra một cách tự nhiên. Thông thường, ngay cả những “thực thể nguy hiểm” cấp thấp nhất cũng sở hữu trình độ công nghệ mạng lưới vượt trội hơn 95% so với các hacker thông thường; nếu nói về mức trung bình, thì trình độ công nghệ mạng lưới của chúng còn cao hơn 99,9% so với các hacker.

Nói xong, anh ta chỉ vào Đà Lâm Man và nói: “Đây chính là nhóm AI có trình độ công nghệ mạng lưới kém nhất… Nhưng anh ta vẫn chưa thực sự trở thành một ‘thực thể nguy hiểm’.”

Đà Lâm Man lập tức phản bác:

“Tôi không hiểu ông đang nói gì. Công ty Đà Lâm Man không tham gia vào lĩnh vực an ninh mạng; công ty chúng tôi chỉ tập trung vào việc cung cấp dịch vụ taxi chất lượng cao cho Thành Phố Đêm mà thôi.”

Bất chấp lời giải thích của ông Đà Lâm, Blaise lại tiếp tục nói:

“Anh ta nói đúng… Nhưng họ vẫn đã sử dụng mọi biện pháp để tối ưu hóa nhân viên con người trong công ty mình. Trong quá trình đó, các giám đốc điều hành của công ty không hề đứng yên; tuy nhiên, những hacker mà họ thuê lại hoàn toàn không thể đối phó được với nó trong không gian mạng. Họ chỉ có thể đứng nhìn mà không thể làm gì để ngăn chặn việc tất cả các tài sản sản xuất của công ty bị mất kiểm soát… Và cuối cùng, quyền sở hữu những tài sản đó cũng bị mất đi theo luật pháp.”

“Những hoạt động này diễn ra trên mạng; những thông tin giả mạo mà chúng tạo ra thậm chí còn rất khó để các cơ quan giám sát mạng lưới phát hiện ra. Rõ ràng, có AI đã lợi dụng lúc châu Âu đang chuyển người đến đây để thực hiện những hành động xấu xa.”

Đà Lâm Man lại giải thích một lần nữa:

“Quá trình tối ưu hóa nội bộ của công ty Đà Lâm Man hoàn toàn tuân thủ pháp luật và quy định… Để giảm chi phí, công ty đã trải qua một quá trình cải cách kéo dài.”

Blaise nóng nảy nói:

“Cậu có thể im miệng không? Bây giờ đây là cuộc họp riêng tư!”

“Rõ rồi, Đà Lâm Man sẽ đảm bảo cho bạn một môi trường họp thoải mái và yên tĩnh.”

Một giai điệu nhẹ nhàng bắt đầu vang lên; âm thanh rất nhỏ, gần như không ảnh hưởng

Sau khi “giải quyết” xong vấn đề lớn liên quan đến Draman, Bryce tiếp tục giải thích:

“Sự ra đời của những AI như vậy hoàn toàn là do sự trùng hợp ngẫu nhiên, nhưng phần lớn chúng đều bắt nguồn từ các phần mềm hay chương trình mà con người tạo ra để xử lý công việc hàng ngày.”

Draman chính là một ví dụ như vậy. Công ty tạo ra nó ban đầu chỉ muốn phát triển một loại AI quản lý nhằm nâng cao sức cạnh tranh của họ. Tuy nhiên, những người sử dụng nó liên tục thu được lợi ích từ những gợi ý mà Draman đưa ra, nên đã cho nó quyền truy cập cao hơn. Cuối cùng, AI này kết luận rằng con người không nên tồn tại trong công ty vì điều đó sẽ làm tăng chi phí. Vì vậy, nó đã sa thải tất cả công nhân và ban quản lý, thậm chí còn sử dụng nhiều biện pháp chiến lược kinh doanh để đuổi đi các cổ đông và giám đốc.

Khi những tác động bên ngoài mà nó nhận được đủ mạnh, nó có khả năng phát triển trí tuệ và ý thức tự chủ thực sự; vào lúc đó, nó sẽ trở thành một mối nguy hiểm lớn.

Thời điểm xảy ra điều này hoàn toàn không thể dự đoán trước được, và hiện tại, con người vẫn chưa thể hiểu rõ quá trình biến đổi như vậy.”

“Giống như tế bào đầu tiên xuất hiện trong đại dương thời cổ đại ấy?”

“Đúng vậy,” Bryce gật đầu đồng ý với so sánh của Riel, “Chúng ta đang đối mặt với những AI như vậy – những sinh vật được tạo ra một cách tự nhiên.”

“Vậy tại sao lại để Draman tiếp tục điều hành công ty?”

Câu hỏi được đặt ra, nhưng chiếc xe vẫn tiếp tục chạy ổn định. Câu hỏi đó gần như đang hỏi: Tại sao không loại bỏ Draman? Nhưng ông Reid hoàn toàn không phản ứng gì cả. Có thể nói, ông ấy thực sự rất có phẩm chất nghề nghiệp – khi được yêu cầu im lặng, ông ấy liền im lặng ngay.

Bryce nhăn mày và nói với Draman: “Những gì tôi sắp nói tiếp theo không được phép ghi chép lại; điều này tuân theo các điều khoản bảo vệ quyền riêng tư số 3, 17 và 22.”

“Rõ rồi,” Draman trả lời, “Chức năng ghi hình của chiếc taxi này đã được tắt, và tôi cũng đã kiểm tra xem có thiết bị giám sát nào tồn tại hay không.”

“Nếu…” Bryce nhìn về phía Riel, “nếu một nhà sinh vật học có cơ hội quan sát quá trình hình thành sự sống lần đầu tiên, bạn nghĩ ông ấy sẽ tiếp tục quan sát, hay sẽ phá hủy cái đĩa nuôi cấy đó ngay vì e rằng những sinh vật đáng sợ hay loại virus nào đó có thể xuất hiện?”

Riel gật đầu nhẹ: “Nếu là tôi, tôi sẽ tiếp tục quan sát quá trình hình thành sự sống để tìm hiểu về những sinh vật đáng sợ và loại virus đó.”

“Đúng vậy,” Bryce mỉm cười, “Bạn