Ngay trong đêm sau khi trả lời các câu hỏi từ Văn phòng Quản lý Thông tin Mạng của thành phố Thượng Hải, Lin Yuan bất ngờ không làm thêm giờ, mà đã đợi ở nhà từ sớm để chờ Zhang Yan tan ca. Khi Zhang Yan bước vào nhà, cô cởi kính râm và khẩu trang xuống, rồi đặt túi xách của mình lên tủ giày ở cửa ra vào.

Mối quan hệ giữa cô và Lin Yuan không được công khai, hơn nữa, vì Lin Yuan hiện tại là một người có tầm ảnh hưởng công cộng, nên cả hai đều đã quen với việc luôn đeo khẩu trang và kính râm khi ra ngoài.

Thấy Lin Yuan hiếm khi làm thêm giờ, Zhang Yan lập tức hiểu rằng anh chắc chắn đang muốn thảo luận về những việc xảy ra trong ngày. Giữa họ luôn có sự hiểu biết sâu sắc lẫn nhau.

“Tối nay đã ăn cơm chưa? Tôi thì đã ăn ở cơ quan rồi.”

“Chỉ ăn một cái bánh xèo ngũ cốc thôi,” Lin Yuan đáp một cách thoải mái. “Sáng nay, tại sao bạn lại chỉ dẫn tôi nói như vậy?”

“Về vấn đề bản quyền trí tuệ ấy à?” Zhang Yan vừa nói vừa thay đồ. Cô cởi áo khoác ra và mặc chiếc áo ngủ rộng rãi hơn. Suốt quá trình đó, cô hoàn toàn không e ngại trước mặt Lin Yuan, bởi vì họ đã quá quen thuộc với nhau.

“Đúng vậy, tại sao bạn không cho tôi thừa nhận rằng, về mặt pháp lý, bản quyền trí tuệ của thuật toán quản lý AI vẫn chưa được xác định rõ ràng?”

“Anh trai tốt của em… Anh luôn có vẻ ngây thơ một cách đáng yêu, đặc biệt là khi đối mặt với những vấn đề quan trọng. Bình thường thì anh rất thông minh, luôn nói rằng em thiếu suy nghĩ kỹ lưỡng… Nhưng đến lúc quan trọng, thực sự là anh không bằng em đâu.” Zhang Yan nói xong, liền ngồi lên đùi Lin Yuan và vòng tay qua cổ anh.

“Việc nâng cấp ngành công nghiệp sản xuất là chính sách quốc gia; việc sử dụng AI để thúc đẩy sự chuyển đổi từ sản xuất truyền thống sang sản xuất thông minh là một biện pháp cụ thể, và thuật toán của anh chính là công cụ để thực hiện điều đó. Nếu anh thừa nhận rằng bản quyền trí tuệ của thuật toán vẫn chưa được xác định rõ, thì vẫn còn những khoảng trống để có thể tận dụng… Nhưng liệu tất cả những điều đó có phụ thuộc vào quyết định của anh không? Anh có thực sự muốn dùng cái gọi là ‘thỏa thuận giữa hai người tử tế’ làm lý do để né tránh trách nhiệm không? Chỉ cần những lời đó được ghi chép lại và trở thành một phần của quy trình nội bộ của chúng ta, thì không ai có thể thay đổi chúng nữa, kể cả ông già nhà tôi cũng vậy. Anh trai ơi, mỗi quốc gia đều có những lợi ích riêng… Anh không thể đối đầu với ý chí của một quốc gia được đâu. Trước ý chí tập thể, không có cái gọ

Tôi đã đọc qua một số thông tin về anh ta, và anh ta chắc chắn không phải là người tốt đâu. Lúc đó, lời hứa bạn đưa ra với anh ta thật sự quá mơ hồ; có thể nói đó chỉ là một trò đùa mà thôi.

Con người không thể bị ràng buộc bởi những trò đùa như vậy được.

Tôi không biết liệu anh ta có coi đó chỉ là một trò đùa hay không… Nhưng khi tự hỏi bản thân, tôi nhận ra rằng vào khoảnh khắc đó, tôi đã thực sự giao quyền sở hữu trí tuệ của thuật toán cho anh ta. Tôi không thể lừa dối chính mình được.

“Ngốc thật!” Zhang Yan cười mắng. “Bạn luôn như vậy… Vì đã hứa với Xia Ye, bạn lại nhất quyết muốn cưới cô ấy làm vợ, dù bây giờ họ đã không còn ở cùng một thế giới nữa. Với Musk cũng vậy…

Sư huynh, cách bạn làm này rất dễ khiến người khác lợi dụng đấy.

“Quý ông có thể bị lừa dối bằng những phương pháp hợp lý…” Chính xác là như bạn đang làm đây mà.

Lin Yuan cười nói: “Vậy bạn mong tôi phải làm thế nào? Luôn đặt lợi ích hiện tại và tương lai làm tiêu chuẩn, và chỉ chọn lọc những điều đã xảy ra hoặc đã hứa trong quá khứ để thừa nhận sao? Khi đó tôi sẽ trở thành cái gì đây? Tôi sẽ giống như một con AI mà thôi… Chỉ có chương trình máy tính mới luôn tuân theo thiết lập để tìm ra giải pháp tối ưu mà thôi.

Điều tuyệt vời của loài người chính là “con chó mãi mãi không thể bỏ thói ăn phân”.

“Được rồi, được rồi… Thực ra tôi cũng không có ý định thuyết phục bạn đâu.” Nếu Lin Yuan thực sự quá linh hoạt, Zhang Yan sẽ cảm thấy anh ta thật nhàm chán… Bởi vì đa số mọi người trên thế giới này đều như vậy; rõ ràng Lin Yuan là một trường hợp ngoại lệ.

“Vậy bạn dự định tiếp theo sẽ làm gì? Thực sự muốn giao thuật toán cho Musk sao? Với cách làm điên rồ của anh ta, ai biết sẽ xảy ra chuyện gì đâu.”

“Tôi đã suy nghĩ rất lâu… Trên đường trở về từ nơi các bạn, tôi liên tục suy nghĩ về vấn đề này. Quyền sở hữu trí tuệ của thuật toán AI, tôi chắc chắn sẽ giao cho Musk… Nhưng quyền sở hữu trí tuệ đó không thể đại diện cho điều gì cả; nói cách khác, trong hệ thống phân công lao động quốc tế hiện nay, nó chỉ mang lại lợi ích kinh tế cho thuật toán mà thôi.

Khi giao thuật toán cho anh ta, tôi sẽ nói rõ với anh ta rằng nếu việc áp dụng thuật toán gây ra vấn đề cho đất nước chúng ta, tôi có quyền can thiệp. Điều này giống như một biện pháp bảo hiểm… Nó vừa giúp tôi giữ trọn lời hứa với anh ta, vừa không để anh ta cảm thấy được phép làm bất cứ điều gì mà không bị kiểm soát.

May mắn thay, việc

Tôi không có nghĩa là tôi không thể ảnh hưởng đến thuật toán đó; thực ra, chỉ cần tôi không hợp tác, việc cập nhật và nâng cấp thuật toán sẽ không thể tiếp tục được thực hiện.

Nhưng bạn biết đấy, bố mẹ tôi, Xiao Xia và bạn đều đang sống ở đây. Tôi thực sự không thể chịu đựng được những rắc rối đó.

Trước bàn tay sắt của quyền lực, tôi chỉ là một con kiến nhỏ mà thôi. Thực tế, tôi sẽ mất đi khả năng kiểm soát thuật toán đó.”

Lời nói của Lin Yuan khiến Zhang Yan rất đồng ý. Ông ấy muốn nói rằng việc mất đi khả năng kiểm soát thuật toán không phải là vì thiếu kỹ năng, mà là vì trong thực tế, do gia đình mình đang ở đây, ông ta buộc phải chịu sự chi phối của quyền lực.

“Nhưng nếu giao thuật toán cho Musk thì lại khác. Anh ta là một kẻ điên, nhưng là một kẻ điên có thể đàm phán được. Trước mặt anh ta, tôi không hề bất lực đến mức không thể chống trả; anh ta không thể đơn giản là cử người đến đây để bắt tôi được.

Hơn nữa, mối quan hệ giữa tôi và Musk thậm chí còn sâu sắc hơn cả mối quan hệ giữa tôi với đất nước mình.

Tôi hiểu rõ về Musk; anh ta là một kẻ coi thường người dân như cỏ rác, anh ta chỉ muốn làm những điều mà bản thân mình thích. Theo lời anh ta, chỉ có những người như chúng tôi mới xứng đáng điều khiển tương lai của loài người.

Với Musk, ít nhất tôi vẫn có thể đàm phán và giao tiếp được.

Nhưng ở đây, tôi chỉ là một con tôm nhỏ không có quyền lựa chọn nào khác. Tôi chỉ muốn là chính mình, muốn thay đổi thế giới theo cách mà tôi tin là đúng đắn, và tôi không muốn phục tùng bất kỳ bên nào.”

Sau một lúc suy nghĩ, Zhang Yan cuối cùng vẫn đặt tay lên sau đầu Lin Yuan và nói: “Mọi người có khả năng đều sẽ phát triển lòng phản kháng ở đây. Bây giờ tôi thậm chí còn nghĩ rằng đất nước mình nên cảm ơn tôi; ít nhất có tôi ở đây để giám sát bạn, bạn mới không làm ra những điều điên rồ gì.”

Lin Yuan suy nghĩ một lát và thấy lời nói của đối phương khá đúng đắn.

“Thực ra, tôi cũng có một động cơ cá nhân. Tôi thực sự muốn xem nếu công nghệ AI không bị hạn chế và được áp dụng rộng rãi vào cuộc sống hàng ngày của mọi người, điều gì sẽ xảy ra. Bạn biết không? Mặc dù tôi biết điều này có thể gây ra thảm họa, nhưng tôi không thể kìm nén được sự tò mò của mình.

Nhưng tôi cũng không thể thực sự làm như Musk, coi người dân như đối tượng thí nghiệm.

Vì vậy, nếu giao thuật toán cho Musk để anh ta tiến hành thí nghiệm ở những nơi khác trên thế giới, tôi rất muốn được chứng kiến kết quả của những thí