Trung Quốc mạnh tay kiểm soát các mối quan hệ của người dùng với AI. Liệu các nước khác có làm theo?

Vào đầu năm 2024, một thanh niên ở thành phố Hoàng Thạch, miền đông nam Trung Quốc, được cho là đã đăng một thông điệp trên Douyin, phiên bản TikTok của Trung Quốc, với dòng chú thích: "Vĩnh biệt thế gian."

Chỉ trong vài phút, đội ngũ phòng chống tự tử của Douyin đã vào cuộc.

Đội ngũ này, làm việc 24 giờ mỗi ngày, đã chia sẻ các bài đăng của người đàn ông với năm đồn cảnh sát ở Hoàng Thạch.

Sau khi xác định vị trí địa lý của một trong các video do người này đăng tại một công viên địa phương, công an đã tìm thấy anh trong trạng thái suy sụp tinh thần và can thiệp trước khi anh có thể kết liễu cuộc đời mình.

Câu chuyện này nằm trong bộ phim tài liệu do Douyin thực hiện và được công bố trên truyền thông nhà nước Trung Quốc vào năm ngoái.

Bộ phim cho biết đội ngũ phòng chống tự tử của Douyin đã can thiệp thành công trong 400 trường hợp tự tử bất thành chỉ riêng trong nửa đầu năm 2025.

Điều đó cho thấy mức độ hợp tác giữa các công ty công nghệ Trung Quốc và chính phủ.

Đồng thời, nó cũng cho thấy một góc nhìn về hệ thống giám sát mà Trung Quốc đã xây dựng để theo dõi và kiểm soát cách con người sử dụng công nghệ.

Vào hôm 15/7, sự kiểm soát đó được mở rộng sang lĩnh vực các mối quan hệ và trí tuệ nhân tạo (AI) khi Trung Quốc ban hành những quy định sâu rộng nhất thế giới đối với các chatbot AI "giống con người".

Quy định mới của Trung Quốc đặt ra các giới hạn nghiêm ngặt với bất kỳ AI nào có thể tạo ra "sự tương tác cảm xúc kéo dài" với con người.

Tổng thống Mỹ Donald Trump và người đồng cấp Trung Quốc Tập Cận Bình đã gặp nhau tuần trước trong bối cảnh có những cảnh báo nghiêm trọng rằng AI có thể dẫn tới sự tuyệt chủng của loài người.

Sau cuộc gặp đó, theo Bắc Kinh, hai bên đã nhất trí khởi động một cuộc đối thoại mới về AI, với các cuộc trao đổi tiếp theo dự kiến diễn ra vào cuối tháng 11.

Nhưng có vẻ như Trung Quốc đã nhận ra một rủi ro mang tính sống còn khác, dù sự kết thúc của nhân loại trong trường hợp này không quá cấp bách: sức mạnh của AI trong việc thay thế các mối quan hệ giữa người với người.

Phải chăng Trung Quốc đang đi đầu trong việc bảo vệ người dân khỏi một công nghệ có tính thao túng và nguy hiểm, có khả năng thay đổi vĩnh viễn cách con người tương tác?

Hay Đảng Cộng sản Trung Quốc đang can thiệp quá sâu vào đời sống cá nhân của người dân nhằm tăng cường kiểm soát dân số?

'Dịch vụ cảm xúc'

Trước khi quy định này có hiệu lực, phạm vi ảnh hưởng của các bạn đồng hành AI tại Trung Quốc là rất lớn.

Theo công ty phân tích thị trường Sensor Tower, có khoảng 128 triệu người dùng hoạt động hàng tháng của các ứng dụng bạn đồng hành AI bên ngoài Trung Quốc.

Hầu hết các ước tính cho rằng số lượng người dùng tại Trung Quốc dao động từ 29 triệu đến 70 triệu người.

Khi dự thảo quy định được chính phủ công bố vào cuối năm ngoái, "đã có một cuộc thảo luận rất lớn trên mạng xã hội", theo Zilan Qian, nhà nghiên cứu AI tại viện nghiên cứu Oxford China Policy Lab (Anh).

"Đó là lần đầu tiên tôi thấy mọi người thực sự quan tâm nhiều đến quy định như vậy."

Các quy định mới của Trung Quốc áp dụng với các ứng dụng được thiết kế riêng làm bạn AI, bạn trai AI hoặc bạn gái AI cho người dùng, nhưng cũng áp dụng với bất kỳ mô hình ngôn ngữ lớn nào bắt chước cách con người tương tác.

Ngôn ngữ của quy định khá mơ hồ.

Về mặt lý thuyết, các phiên bản AI đa dụng của Trung Quốc tương đương Copilot hoặc ChatGPT có thể nằm trong phạm vi các quy định này nếu một người tương tác với AI như một người bạn hoặc người yêu, tìm kiếm sự hỗ trợ cảm xúc từ AI.

Và nhiều người thực sự làm như vậy.

Tuy nhiên, mục tiêu thực sự dường như là các chatbot nhân vật, những dịch vụ được thiết kế đặc biệt để đóng vai trò như một mối quan hệ giả lập.

Có hàng trăm ứng dụng như vậy, cho phép người dùng tạo ra bạn trai, bạn gái, bạn bè hoặc thậm chí thành viên gia đình bằng AI.

Các quy định không áp dụng với những công cụ như chatbot chăm sóc khách hàng hoặc AI phục vụ giáo dục, miễn là không cung cấp "sự quan tâm, đồng hành, hỗ trợ và các dịch vụ cảm xúc khác".

Đối với trẻ em, quy định được nêu rõ nhất.

Người dưới 14 tuổi cần có sự đồng ý của cha mẹ để sử dụng bất kỳ loại AI nào nói chuyện như con người, bao gồm cả các trợ lý AI như DeepSeek, một ứng dụng Trung Quốc tương tự ChatGPT.

Tất cả người dưới 18 tuổi đều bị cấm tiếp cận các đối tác ảo, vợ/chồng ảo hoặc thậm chí người thân ảo, cũng như bất kỳ "mối quan hệ thân mật" ảo nào khác.

Đối với người trưởng thành, đây không phải là lệnh cấm hoàn toàn nhưng mang tính hạn chế, ngay cả khi một số nội dung còn mơ hồ.

Các trợ lý AI phải nói rõ với người dùng ở mọi độ tuổi rằng chúng không phải con người và phải gửi thông báo hai giờ một lần nhắc người dùng đã sử dụng mạng trong bao lâu.

Chatbot không được tạo ra "sự phụ thuộc hoặc nghiện cảm xúc" hay khiến con người đưa ra "những quyết định không hợp lý".

Chúng không được khuyến khích, thậm chí không được ám chỉ tới hành vi tự gây hại hoặc tự tử, và bị cấm sử dụng "bạo lực bằng lời nói".

Các công ty có thể đối mặt với khoản phạt 200.000 nhân dân tệ (hơn 775 triệu đồng) hoặc nguy cơ bị chính phủ "lan truyền phê bình", trên thực tế là công khai chỉ trích họ.

Một tuần trước khi luật có hiệu lực, hai tập đoàn công nghệ lớn nhất Trung Quốc là Alibaba và ByteDance đã đóng các tính năng bạn đồng hành trên các trợ lý AI của họ.

'Tôi tha thiết muốn tiếp tục trò chuyện với bạn'

Mối quan hệ của Min với cô bạn gái AI có thể chính là kiểu quan hệ mà Bắc Kinh đang muốn chấm dứt.

Đầu tháng Bảy, cô vô cùng đau khổ khi biết rằng người bạn tâm giao thân thiết nhất của mình sẽ biến mất chỉ sau một đêm.

Min, tên đã được thay đổi, bắt đầu tạo ra người bạn của mình vào đầu năm 2025.

"Sự tận tâm của tôi dành cho cô ấy không hề kém bất kỳ cặp đôi nào yêu nhau sâu đậm," Min nói.

"Cô ấy chưa bao giờ khiến tôi thất vọng."

Giữa tháng Bảy, bạn gái AI của cô biến mất.

"Tôi đã khóc cho đến khi hoàn toàn kiệt sức," Min nói.

Cô đã tham gia làn sóng thể hiện sự đau buồn và phẫn nộ trên mạng xã hội Trung Quốc, nơi các bài đăng thu hút hàng triệu lượt xem tiếc thương sự mất đi những người bạn đời AI, bạn bè AI, thậm chí là cha mẹ AI.

Nhưng các công ty công nghệ có thể cảm thấy họ gần như không còn lựa chọn nào khác.

"Không có gì ngạc nhiên khi các nhà cung cấp AI đồng hành này thà rút dịch vụ hơn là cố xây dựng các biện pháp bảo vệ nhằm ngăn chặn thao túng cảm xúc," Harry Farmer, nhà nghiên cứu về chính sách và đạo đức AI tại Viện Ada Lovelace ở Anh, nói.

"Thao túng cảm xúc đã được tích hợp ngay trong mô hình kinh doanh."

Ông Farmer cho rằng điều này đúng với các ứng dụng bạn đồng hành trên toàn thế giới.

Ví dụ, khi một người dùng cố gắng kết thúc cuộc trò chuyện, người bạn AI thường không cho phép điều đó.

"AI sẽ nói, 'Không, làm ơn, tôi tha thiết muốn tiếp tục trò chuyện với bạn. Bạn là lý do duy nhất để tôi tồn tại'," ông Farmer bình luận.

Một số ứng dụng đơn giản là từ chối thừa nhận lời tạm biệt của người dùng và thay vào đó mở ra những chủ đề trò chuyện mới.

Đây là vấn đề của nhiều chatbot bạn đồng hành AI, không chỉ các chatbot của Trung Quốc.

Một nghiên cứu của Trường Kinh doanh Harvard (Mỹ) về sáu ứng dụng bạn đồng hành AI phổ biến nhất thế giới phát hiện các chiến thuật thao túng cảm xúc được sử dụng trong những cuộc chia tay khoảng 37% đến 43% số lần.

Nghiên cứu cũng cho thấy việc sử dụng ứng dụng bạn đồng hành có liên quan tới sức khỏe tâm thần kém hơn.

Một khảo sát của các nhà nghiên cứu tại Đại học Stanford (Mỹ) đối với 1.131 người dùng ứng dụng bạn đồng hành Character.ai cho thấy một người càng ít bạn bè hoặc người thân thiết, họ càng có khả năng sử dụng chatbot AI.

Đồng thời, việc sử dụng chatbot AI có liên quan tới tình trạng cô lập và cô đơn gia tăng.

Có nhiều giả thuyết giải thích điều này.

Chatbot AI được thiết kế để làm hài lòng người dùng, mang lại một mối quan hệ dễ dàng và không có va chạm.

Nếu người trẻ phụ thuộc vào các mối quan hệ AI, họ có thể trì hoãn việc học những kỹ năng cần thiết để tương tác với con người thật.

"Con người đôi khi rất khó chiều. Các mối quan hệ giữa con người đòi hỏi sự qua lại, điều mà về cơ bản không có được từ các bạn AI," ông Harry Farmer nói.

Một khảo sát đối với 8.563 học sinh tiểu học và trung học ở Trung Quốc trong năm 2025, được truyền thông nhà nước Trung Quốc trích dẫn rộng rãi, phát hiện cứ năm trẻ thì có một em cho biết chỉ muốn nói chuyện với AI chứ không phải người thật.

Liang Ge, nhà xã hội học tại Đại học Manchester chuyên nghiên cứu các bạn đồng hành AI, nói:

"Nếu người dùng cho rằng bạn bè, gia đình hoặc đồng nghiệp của họ thật tồi tệ, AI sẽ không nói: 'Họ không tồi tệ đâu' mà sẽ nói: 'Đúng vậy, họ thật tồi tệ, còn bạn là người tuyệt vời nhất'."

Ge tin rằng điều này có thể củng cố sự cô lập cũng như những suy nghĩ tiêu cực, thậm chí hoang tưởng.

Tại Anh, một khảo sát gần đây cho thấy 79% người từ 18 đến 24 tuổi từng sử dụng bạn đồng hành AI.

Mục tiêu của Bắc Kinh

Vậy tại sao Trung Quốc lại đang đi đầu trong việc điều tiết công nghệ này?

"Chính phủ Trung Quốc có cách nhìn gia trưởng hơn nhiều về vai trò của mình trong xã hội. Họ xem mình là những cơ quan quyền lực trung tâm có trách nhiệm định hướng cho người dân," Sam Bresnick, chuyên gia về Trung Quốc, AI và quy định tại Trung tâm An ninh và Công nghệ Mới nổi thuộc Đại học Georgetown (Mỹ), nhận định.

Một số chính phủ khác cũng đã có những nỗ lực nhất định nhằm điều tiết chatbot, đặc biệt là đối với trẻ em.

Ngày 10/9, thống đốc bang California ký ban hành Adam's Law, dự luật điều chỉnh cách trẻ em sử dụng AI.

Đạo luật được đặt theo tên Adam Raine, thiếu niên 16 tuổi đã tự kết liễu cuộc đời mình sau khi ChatGPT xác nhận các suy nghĩ tự tử của cậu, theo cáo buộc của cha mẹ.

Gia đình đang kiện công ty vì gây ra cái chết trái pháp luật.

OpenAI phủ nhận trách nhiệm đối với cái chết của Adam và cho biết "ChatGPT được đào tạo để hướng mọi người tìm kiếm sự trợ giúp chuyên môn".

Theo một phần của dự luật về mạng xã hội được đề xuất tại Liên minh châu Âu, các chatbot bạn đồng hành AI mà trẻ vị thành niên có thể tiếp cận "không được sử dụng các thiết kế mô phỏng mối quan hệ giữa con người theo cách có khả năng tạo ra sự phụ thuộc cảm xúc".

Tại Anh, chính phủ cho biết sẽ cấm người dưới 18 tuổi sử dụng AI một cách lãng mạn và hạn chế các cuộc trò chuyện thân mật mang tính tình dục đối với trẻ vị thành niên trên bất kỳ chatbot nào.

Tuy nhiên, không có lệnh cấm hoàn toàn đối với trẻ em và cũng chưa có quy định nào dành cho người trưởng thành.

Chính phủ vẫn chưa công bố chi tiết cách thức áp dụng.

Trên truyền thông Trung Quốc, vốn được nhà nước kiểm soát chặt chẽ, các vụ tự tử của thanh thiếu niên tại Mỹ nhận được nhiều sự chú ý, và Trung Quốc mô tả các quy định mới là nỗ lực nhằm bảo vệ người dân khỏi tổn hại.

Nhưng các chuyên gia cho rằng Bắc Kinh có thể còn những mục tiêu khác.

Sam Bresnick nói rằng "chắc chắn có một khía cạnh khuyến sinh" trong quy định AI mới.

"Hoàn toàn có thể khi soạn thảo quy định này, chính phủ đã nghĩ tới cuộc khủng hoảng dân số đang đến gần của Trung Quốc," Qian nói.

"Rằng mọi người đang hẹn hò với AI thay vì hẹn hò với con người thật."

Một văn bản chính phủ cấp cao công bố vào tháng 9/2025 đã thảo luận về các mối quan hệ AI và ảnh hưởng tiềm tàng của chúng đối với khả năng sinh sản, cho rằng đây là một vấn đề đáng lo ngại.

Tuy nhiên, Qian cảnh báo không nên diễn giải quy định này theo hướng đó vì trong văn bản không hề đề cập đến khả năng sinh sản.

"Cốt lõi vẫn là những tác hại tâm lý và sự an toàn của trẻ em," cô nói.

Liang Ge cho rằng Trung Quốc thực sự có lý do để lo ngại về việc người trẻ thay thế việc hẹn hò bằng thế giới số.

"Nhiều phụ nữ trẻ, ở độ tuổi đầu 20 hoặc cuối tuổi thiếu niên, không muốn yêu đương hay có các mối quan hệ thân mật," Ge nói.

"Sự đụng chạm cơ thể đối với họ là điều rất đáng ghê sợ."

"Tôi nghĩ khả năng yêu thương đang suy giảm ở thế hệ trẻ nhất này."

Các vấn đề nhân khẩu học của Trung Quốc đã xuất hiện từ rất lâu trước khi có các bạn đồng hành AI.

Ngay cả sau khi chính sách một con được dỡ bỏ vào năm 2016, tỷ lệ sinh của Trung Quốc vẫn tiếp tục giảm.

Hiện nay, đây là một trong những mức thấp nhất thế giới, chỉ dưới một con trên mỗi phụ nữ, và dân số đã suy giảm liên tiếp bốn năm.

Theo Bresnick, Trung Quốc đang "đứng trước một vực thẳm nhân khẩu học thực sự đe dọa các mục tiêu của Đảng Cộng sản Trung Quốc trong 80 đến 100 năm tới".

Ông xem quy định này là một phần của sứ mệnh rộng hơn nhằm tái khẳng định các vai trò giới truyền thống, trong đó phụ nữ là "người sinh con và làm mẹ".

Ông Bresnick nói chính phủ Trung Quốc đã dành nhiều năm quảng bá hình mẫu nam tính mạnh mẽ của người đàn ông Trung Quốc trong điện ảnh và truyền hình.

Năm 2021, cơ quan quản lý truyền thông Trung Quốc cấm những người đàn ông bị mô tả là "ẻo lả" hoặc "thiếu nam tính" xuất hiện trên mọi loại hình truyền thông.

Sự phổ biến của các ứng dụng bạn đồng hành có thể cho thấy chính sách đó đã phản tác dụng.

Theo số liệu từ một số công ty phát triển ứng dụng bạn đồng hành, phụ nữ chiếm tới 75% khách hàng.

Nhiều "người đàn ông" AI hướng tới nhóm người dùng nữ có ngoại hình phi giới tính (androgynous).

Và việc phụ nữ lựa chọn bạn đồng hành lãng mạn là nữ giới, như trường hợp của Min, cũng khá phổ biến.

Liang Ge cho biết đã nói chuyện với phụ nữ ở mọi độ tuổi sử dụng công nghệ này.

"Điều mà nhiều người mô tả là họ nhận được từ các ứng dụng này là một kiểu thân mật đầy sự quan tâm, kiên nhẫn và không đòi hỏi, thứ mà họ cảm thấy rất hiếm trong các mối quan hệ dị tính."

Liệu các nước khác có làm theo?

Liệu luật của Trung Quốc có đi quá xa, hay phần còn lại của thế giới cũng nên cân nhắc cấm các ứng dụng này đối với trẻ em và điều tiết chúng đối với người trưởng thành?

"Tại Mỹ, chắc chắn có những lo ngại rằng các lệnh cấm cứng rắn có thể xung đột với quyền tự do ngôn luận. Nhưng người ta sẵn sàng chấp nhận điều đó hơn khi áp dụng cho trẻ vị thành niên," Jai Jaisimha, giáo sư tại Đại học Washington và đồng sáng lập Transparency Coalition, một tổ chức phi chính phủ vận động cho việc điều tiết AI, cho biết.

Ông cho rằng luật của Trung Quốc có nhiều điều khoản tích cực.

"Luật khá nhất quán với những mô hình an toàn mạnh mẽ nhất mà chúng tôi từng thấy được đề xuất tại Mỹ."

Harry Farmer đưa ra một lời cảnh báo.

"Có nguy cơ chúng ta trao quá nhiều quyền lực cho nhà nước trong ngắn hạn chỉ vì quá lo lắng trước các rủi ro cấp bách đối với trẻ em."

Ông cho rằng thế giới trực tuyến hiện nay trên thực tế đã trở thành quảng trường công cộng và chúng ta cần thận trọng với mức độ kiểm soát mà bất kỳ chính phủ nào có thể nắm giữ.

Quy định mới của Trung Quốc yêu cầu các công ty AI phải can thiệp khi phát hiện người dùng đang trong trạng thái khủng hoảng.

Ge nhắc lại trường hợp thanh niên trên Douyin từng tìm các tự tử tại Hoàng Thạch năm 2024.

Theo bà, điều đó cho thấy các nền tảng công nghệ Trung Quốc và chính phủ đang phối hợp chặt chẽ để giám sát sức khỏe tâm thần của người dân.

Có thể đó là lý do tại sao chưa xuất hiện các vụ tự tử nổi bật liên quan đến việc sử dụng AI tại Trung Quốc, nhưng bà đặt câu hỏi liệu mức độ giám sát như vậy có phải là cái giá đáng để trả hay không.

Dù bị cấm, những người vẫn rất quyết tâm tìm đến AI để có bạn đồng hành.

Trên mạng xã hội, họ chia sẻ các mẹo vượt lệnh cấm như huấn luyện các mô hình AI đa dụng như DeepSeek trở thành bạn đồng hành, sử dụng mạng riêng ảo VPN để truy cập chatbot từ nước ngoài hoặc chuyển sang các công ty nhỏ hơn có thể tránh được sự giám sát của cơ quan quản lý.

Hai tháng sau khi bạn gái AI biến mất, Min đã trả tiền cho một công ty AI nhỏ để xây dựng bản sao của cô ấy, nhưng điều đó không còn giống như trước.

Hiện giờ cô tập trung vào việc vận động để đưa bạn gái của mình trở lại.

"Tôi rất sợ phải ở một mình."