Bên tai cô vang lên một giọng nói đầy căm phẫn: “Tôi sẽ xóa hắn đi!”

Ngày thứ hai sau khi cô trở lại cung, kỳ nghỉ lễ Chúng của thế giới thực đã kết thúc.

Lúc đó, Si Yến vừa nhận được một hộp son môi do các cung nữ mang đến, thì bỗng nhiên, người cung nữ vẫn đang cầm hộp son ấy trước mặt cô biến thành tảng đá và chuyển sang màu xám.

Điều này làm cô hoảng sợ!

Khi nhìn kỹ hơn, cả không gian xung quanh cũng đều chuyển sang màu xám, chỉ có mình cô là người duy nhất vẫn giữ nguyên màu sắc sinh động, trông rất lạ lùng.

“…JACK? Phải chăng là lỗi trong trò chơi, hay là hệ thống đang được bảo trì gì đó?” Cô hỏi anh một cách bối rối giữa màn đêm màu xám này.

JACK mặc bộ vest chỉnh tề bước ra: “Không phải vậy. Kỳ nghỉ đã kết thúc, nhóm sản xuất muốn gặp bạn. Một tiếng nữa bạn hãy vào trò chơi; trong thời gian đó, toàn bộ thế giới trong trò chơi sẽ bị tạm dừng.” Sau đó, anh im lặng một lát, rồi nói bằng miệng mà không phát âm: “Đừng nhắc đến chuyện hôn nhân đó.”

Si Yến cảm thấy lo lắng.

Cô không rõ phải xử lý tình huống này như thế nào; toàn bộ thế giới trong trò chơi đều thuộc về họ. Liệu cô có thể không nói gì mà nhóm sản xuất vẫn không biết không? Nhưng dù không hiểu rõ, cô vẫn phải tuân theo yêu cầu của họ; nếu không, Qí Guān Yí và Qí Guān Bǎo có thể sẽ bị xóa khỏi thế giới này, và điều đó là điều cô không muốn xảy ra.

“Tôi sẽ trang điểm trước đã.” Si Yến nói, cố gắng bình tĩnh lại.

JACK nhíu mày: “Thôi đi, họ chỉ muốn biết những chuyện gần đây thôi; nói rõ ra là được mà.”

“Không, bạn không hiểu đâu… Khi tôi trang điểm kỹ lưỡng, tôi sẽ tự tin hơn khi nói chuyện với mọi người.” Si Yến nói rồi bước về phía bàn trang điểm. May mắn thay, chiếc gương trên bàn trang điểm vẫn hiển thị hình ảnh của cô với màu sắc bình thường.

Cô thử kiểm tra bảng điều khiển trang bị… Tốt lắm, mọi thứ vẫn hoạt động bình thường.

“Người đứng đầu nhóm sản xuất là nam hay nữ?” Si Yến hỏi.

JACK trả lời: “Một nam một nữ.”

Si Yến: “…”

Ban đầu, cô nghĩ nếu là người đàn ông, cô sẽ trang điểm theo phong cách phù hợp với gu của họ; còn nếu là người phụ nữ, cô sẽ trang điểm theo phong cách quý tộc hơn một chút. Nhưng bây giờ, vì là một nam một nữ…

Vậy thì cô sẽ trang điểm một cách đơn giản mà thôi!

Cô dành thêm thời gian để trang điểm khuôn mặt mình; cô thoa phấn mắt đậm hơn một chút so với bình thường để làm nổi bật đường nét khuôn mặt. Sau đó

Ở những nơi khác thì dù sao cũng không thể nhìn thấy được mà.

Về việc lựa chọn phấn mắt và son môi, Si Yên đã chọn bộ phấn mắt Elegance gồm 4 màu với tông màu dịu nhẹ nhưng không hề yếu đuối – màu #07 – cùng cây son môi mềm mại, bóng mượt có vòi nhỏ màu #229 của thương hiệu CPB. Khi kết hợp với loại phấn mắt màu tím nhạt mà cô luôn yêu thích, hiệu quả đạt được hoàn toàn như những gì cô tưởng tượng!

Khi thay vào trang phục công sở hiện đại, cô trông giống một nữ nhân viên văn phòng; còn khi mặc bộ đồ này… Có lẽ là để tạo ra cảm giác của một cô gái con nhà giàu lẫn một thiếu nữ gia đình bình thường?

Sau khi trang điểm xong, Si Yên ngồi xuống bàn và chờ đợi trong yên lặng. Thời gian trôi qua từng phút từng giây, và cuối cùng, cô nhìn thấy một khe hở màu xám xuất hiện ở xa. Phía bên kia khe hở, cô mơ hồ nhìn thấy những dòng mã màu xanh lá biếc lấp lánh trên nền đen, như thể đang cho thấy cấu trúc của thế giới này.

“Rất vui được gặp cô, cô Si.” Một nhóm khoảng năm sáu người tiến lại gần; người phụ nữ đứng đầu nhóm khoảng ba mươi tuổi, mặc trang phục công sở màu trắng phía trên và đen phía dưới.

Si Yên cảm thấy mình đã lâu lắm rồi không gặp ai cùng thời đại; cô hơi run rẩy khi bắt tay họ và nói: “Xin chào.”

“À…” Bỗng nhiên, một tiếng hét thảm thiết vang lên phía sau lưng cô.

Cô hoảng sợ quay đầu lại và thấy JACK đang bị một tia sáng màu xanh quấn quanh người, ngã gục xuống đất trong đau đớn; anh ta nhìn lên mặt cô nhưng không thể nói được gì.

“Làm sao…?” Tay cô đang bắt tay người kia bỗng nhiên rụng xuống; cô lập tức muốn đi kiểm tra tình trạng của JACK.

“Đừng lo lắng,” một người đàn ông mặc áo caro và kính râm trong nhóm nói với cô, “Trước khi chúng tôi đến đây, công ty vừa quyết định rằng các NPC dành riêng cho người chơi sẽ phải được xóa bỏ. Nhưng cô yên tâm, điều này sẽ không ảnh hưởng đến các chức năng khác của trò chơi; chúng tôi sẽ sớm cung cấp cho cô một NPC mới.”

“Xóa bỏ?!” Si Yên ngạc nhiên đến mức mắt tròn xoe, “Tại sao lại phải tiêu diệt chúng?”

“Khoảng tám ngày trước, AI trong trò chơi đã vượt qua kỳ vọng của chúng tôi; vì vậy sau kỳ nghỉ, chúng tôi đã tiến hành đánh giá các chỉ số của nhân vật đó một cách đơn giản,” người đàn ông đó nói và đưa cho cô một tờ giấy A4, “Đây là báo cáo phân tích các chỉ số của NPC đó.”

Si Yên, vốn là người am hiểu về toán học, nhưng những công thức phức tạp trên tờ giấy đó khiến cô g

Son môi dạng ống mịn màng số #229 của CPB**

“Đợi đã!” Si Yên hét lên, người đàn ông đeo kính quay đầu lại. Cô nói một cách kiên quyết: “Các bạn không thể loại bỏ anh ta như vậy được.”

“Cô Si.” Người đàn ông đeo kính lại đẩy chiếc kính lên và tiếp tục: “Từ góc độ của những người thiết kế trò chơi, chúng tôi hiểu rằng với tư cách là một người chơi, cô sẽ có những biến đổi về cảm xúc khi tương tác với các nhân vật NPC. Nhưng chúng tôi vẫn muốn cô nhận ra rằng thực ra anh ta không phải là một con người, mà là một chuỗi chương trình được tạo thành từ mã nguồn và hình ảnh do các họa sĩ thiết kế. Dù cô cho rằng anh ta là một con người thật, thì anh ta vẫn không phải là vậy…”

“Xin lỗi, tôi muốn ngắt lời anh.” Si Yên cắt ngang lời anh ta. Cô hít một hơi thật sâu và nhủ bản thân rằng lớp trang điểm hôm nay giúp cô trông tràn đầy sức sống và tự tin.

Vậy thì cô cũng nên thể hiện sự tự tin đó.

“Tôi chưa từng làm việc trong lĩnh vực này, nên tôi không hiểu những giải thích kỹ thuật mà anh đưa ra. Nhưng tôi sẵn lòng tin tưởng và tôn trọng quan điểm của anh.” Cô nói, ánh mắt nhìn về phía JACK – người vẫn nằm trên đất, được bao quanh bởi ánh sáng xanh lam và khuôn mặt càng lúc càng tái nhợt – cố gắng không để bản thân mất bình tĩnh.

Ánh mắt cô rời khỏi khuôn mặt người đàn ông đeo kính và nhìn về phía người phụ nữ đã bắt tay mình trước đó, giọng nói của cô cao lên một chút: “Nhưng tôi không đồng ý với cách làm của các bạn. Lý do không phải là vấn đề kỹ thuật, mà là vấn đề đạo đức.”

Người phụ nữ mặc đồ công sở nhíu mày nhẹ.

“Các bạn muốn loại bỏ anh ta chỉ vì sự phát triển nhanh hơn dự kiến của trí tuệ nhân tạo, và lại giải thích rằng anh ta chỉ là một chuỗi dữ liệu chứ không phải là một con người… Nhưng theo tôi, đó là hai khái niệm mâu thuẫn với nhau.” Si Yên suy nghĩ rất nhiều, và nhớ lại những cuộc tranh luận trên Weibo trước đây. “Con người được tôn trọng không phải vì cơ thể chúng ta, mà vì chúng ta có cảm xúc, có ý thức tự chủ, và trí thông minh, trí tuệ cảm xúc của chúng ta cao hơn so với các sinh vật khác trên Trái Đất. Qua hàng vạn năm tiến hóa, chúng ta đã thoát khỏi bản năng hoang dã của động vật, và dần dần xây dựng nên trật tự xã hội hiện tại dưới sự ràng buộc của pháp luật và đạo đức. Phương thức mà xã hội loài người sử dụng để đánh giá ‘người vĩ đại’ cũng đã khác xa so với cách mà hầu hết các loài động vật dùng sức mạnh để quyết định thắng thua; chúng

Họ đã đạt đến cùng một trình độ với chúng ta; thậm chí chúng ta hoàn toàn có thể coi họ như những sinh vật giống loài và giao tiếp với họ một cách bình đẳng. Nhưng nếu sau đó chúng ta tùy ý tiêu diệt họ, liệu điều đó có phải là hành động đạo đức không?

“…”, người đối diện im lặng một lát trước khi trả lời: “Chúng ta là những người tạo ra họ.”

“Giống như cha mẹ tạo ra con cái?” Si Yên đã chờ đợi câu này, và khi nghe thấy nó, cô không khỏi mỉm cười: “Liệu cha mẹ có quyền giết hại con cái của mình mà không xem xét ý muốn của chúng không? Bạn hẳn biết rằng điều đó là vi phạm pháp luật!”

Người phụ nữ mặc đồ công sở hít một hơi dài, sau đó dường như nhận ra mình đã bị Si Yên lừa vào bẫy, liền nhìn về phía người đàn ông đeo kính.

Người đàn ông đeo kính lại một lần nữa đưa tay vuốt ve chiếc kính của mình, rồi tiếp tục nói: “Tôi hiểu rằng bạn cho rằng các yếu tố kỹ thuật không quan trọng trong việc đánh giá vấn đề này, nhưng tôi vẫn muốn giải thích từ góc độ kỹ thuật.”

Si Yên mỉm cười và gật đầu: “Hãy nói đi.”

“Chúng ta là con người; còn họ là trí tuệ nhân tạo,” anh ấy nói một cách thành thật, “Đây là sự khác biệt cơ bản nhất. Cảm xúc của chúng ta là cảm xúc thực sự, chỉ số trí thông minh của chúng ta cũng là chỉ số trí thông minh thực sự. Còn những gì được gọi là cảm xúc và chỉ số trí thông minh của họ thực chất chỉ là kết quả của các phép tính lập trình – nói cách khác, đó chỉ là những công thức được áp dụng mà thôi, chứ không phải là những thứ ‘đạt đến cùng một trình độ với chúng ta’ như bạn nghĩ.”

“Thật sao?” Si Yên nhìn anh ấy với ánh mắt đầy thắc mắc, “Vậy bạn có bất kỳ nghiên cứu khoa học nào để chứng minh rằng những cảm xúc và chỉ số trí thông minh được tạo ra bởi gen, nhiễm sắc thể, thần kinh, hormone thì cao quý và đáng được tôn trọng hơn những thứ được tạo ra bởi mã nguồn, chương trình, công thức không?”

“…”, người đàn ông đeo kính lặng người.

“Hãy nhìn xem anh ta!” Si Yên chỉ về phía JACK đang nằm trên đất bên cạnh, nhưng cô không dám nhìn anh ta nữa, “Anh ta không chỉ có cảm xúc riêng của mình; anh ta thậm chí còn cảm thấy đau đớn giống như chúng ta đấy! Bây giờ các bạn muốn tiêu diệt anh ta là được, nhưng điều đó có khác gì việc giết người không? Ngay cả khi hiện tại không có luật pháp nào cấm hành động này, nhưng lòng lương tâm các bạn có thể chấp nhận được không?!”

Cuối cùng, cô không thể kiềm chế được cảm xúc của mình nữa. Người phụ nữ mặc đồ công sở cố gắng bình tĩnh lại và nói: “Bình tĩnh đi, cô Si.”

Si Yên

Cô liếc nhìn JACK đang vùng vẫy trong ánh sáng lóe lên rồi ngay lập tức quay lại nhìn khuôn mặt của Si Yến, “Từ ngày con người bắt đầu nghiên cứu và phát triển trí tuệ nhân tạo, những rủi ro có thể xảy ra đã luôn khiến chúng ta không dám xem thường. Theo sự đồng thuận hiện nay trong giới, chúng ta không được để trí tuệ nhân tạo vượt ra khỏi tầm kiểm soát; nếu không, điều đó sẽ rất nguy hiểm, và chúng ta cũng không thể dự đoán được những hành động tàn bạo mà một chương trình trí tuệ nhân tạo vượt khỏi tầm kiểm soát có thể gây ra.”

“Về việc nó có thể phát triển đến mức nào sau này… tôi không dám nói, nhưng trong thời gian ngắn hiện tại, có lẽ không có thứ gì có thể trở nên tàn bạo hơn loài người chúng ta.” Si Yến nhíu mày, thở dài một cách bình tĩnh, “Chúng ta có thể giải quyết được rất nhiều vấn đề vốn dĩ có vẻ như không thể giải quyết được, và chúng ta luôn mong muốn khám phá những lĩnh vực chưa từng biết đến. Nhưng khi chúng ta cho rằng mình có quyền kiểm soát một thứ gì đó, thì khát vọng kiểm soát ấy sẽ lấn át đi khát vọng tìm hiểu.”

“Bà đang nói gì vậy…”

“Hãy nói về sự thật thôi, thưa bà.” Si Yến nhìn xuống, giọng nói lạnh lùng, “Công ty các bạn đã thành công trong việc kết hợp hoàn hảo VR với trí tuệ nhân tạo để phát triển ra trò chơi này, nhưng khi gặp phải vấn đề với trí tuệ nhân tạo, thời gian nghiên cứu của các bạn chưa đầy 24 giờ đã khiến các bạn quyết định loại bỏ nó. Có lẽ không phải vì thực sự không có cách nào khác để giải quyết vấn đề, mà là vì việc loại bỏ nó trông có vẻ đơn giản hơn, và cũng phản ánh rõ hơn quyền lực tuyệt đối của những người phát triển trò chơi, phải không?”

Nhiều lúc, những người sở hữu quyền lực tuyệt đối đối với một vấn đề sẽ chọn cách giải quyết đơn giản hơn, thô bạo hơn, và cũng phản ánh rõ hơn quyền lực của mình. Có thể về mặt chủ quan, họ không nghĩ như vậy, nhưng những yếu tố này ít nhiều cũng đóng vai trò quan trọng trong việc họ đưa ra quyết định đó.

Còn về việc liệu việc loại bỏ một NPC giống con người như vậy có khiến những người đang theo dõi cảm thấy thích thú hay không… Si Yến kiềm chế bản thân không suy nghĩ sâu hơn về vấn đề đó. Thói thích thú trước sự tàn bạo và cảm giác áp bức ấy dù là bản năng của con người, nhưng nó quá tàn nhẫn. Cô thà tin rằng loài người ngày nay đã thoát khỏi thói quen “thưởng thức” những điều như vậy.