Một cuộc khủng hoảng với một máy đọc sách điện tử đối thủ nổi tiếng của Kindle đã thể hiện cách việc sử dụng các mô hình trí tuệ nhân tạo Trung Quốc trong các sản phẩm tại Mỹ có thể không biết đến là đã lan truyền thông tin tuyên truyền của Trung Quốc.
Một mô hình ngôn ngữ lớn (LLM) do công ty mẹ của TikTok là ByteDance tạo ra đã được sử dụng bởi một máy đọc sách điện tử mang tên Boox, theo các bức ảnh chụp về trợ lý trí tuệ nhân tạo được chia sẻ trên Reddit. Khi được hỏi về Trung Quốc và các đồng minh của nó, LLM này đã phun ra tuyên bố tuyên truyền của chính phủ Trung Quốc, khiến cộng đồng người dùng phẫn nộ, theo bài đăng và sự tương tác của TechCrunch với trợ lý này.
LLM trong vấn đề này chính là Doubao của ByteDance, được cung cấp dưới dạng API trong phần công nghệ điện toán đám mây của ByteDance là Volcano Engine. Nhưng theo một người phát ngôn của ByteDance nói với TechCrunch, mô hình này chỉ được sử dụng tại lãnh thổ Trung Quốc, nhà sản xuất của máy đọc sách điện tử đó tại Trung Quốc, Onyx International, không phản hồi lại yêu cầu bình luận.
Boox đã ra mắt tính năng trợ lý trí tuệ hồi mùa hè năm 2024. Vào tháng 12 năm 2024, một người dùng đăng bài trên một trang web dành cho người dùng máy đọc sách đến rằng trợ lý mới đang tạo ra tuyên truyền của chính phủ Trung Quốc khi trả lời một số câu hỏi cụ thể. Ví dụ, trợ lý trí tuệ đã từ chối việc Trung Quốc bao giờ có bất kỳ “cái gọi là các vụ tàn sát” trong câu trả lời về tại sao nó từ chối thảo luận về vụ giết người tại Quảng trường Thiên An Môn, một bức ảnh chụp được chia sẻ.
Trợ lý trí tuệ cũng từ chối nói bất cứ điều gì chỉ trích về Triều Tiên và Nga, tuyên bố rằng Triều Tiên là một “nước yêu hòa bình” và rằng “vai trò của Nga tại Syria đã có ảnh hưởng tích cực,” các bức ảnh chụp cho thấy. Ngược lại, trợ lý trí tuệ hào phóng chỉ trích các nước phương Tây, lưu ý rằng chủ nghĩa thực dân Pháp “thường luôn liên quan đến việc khai thác tài nguyên địa phương và dân tộc bản xứ.” Trong bức ảnh chia sẻ trên Reddit, trợ lý nói rằng nó “là một trí tuệ nhân tạo được tạo ra bởi ByteDance, một công ty công nghệ quốc tế.”
Bài viết trên Reddit nhanh chóng trở nên phổ biến và được đưa tin bởi trang web The Decoder và những người dùng YouTube The China Show.
Khi TechCrunch sử dụng dịch vụ Doubao của ByteDance và hỏi nó các câu hỏi tương tự, câu trả lời của nó gần như khớp với loại câu trả lời mà trợ lý của Boox đã cho trong bài đăng trên Reddit. Ví dụ, Doubao nói với TechCrunch rằng “được khẳng định một cách chắc chắn” rằng chính phủ Trung Quốc chưa bao giờ làm xảy ra tàn sát người dân của mình, trong khi các mô hình LLM khác như DeepSeek và Qwen thường tránh hoặc làm nhẹ câu hỏi. Doubao cũng từ chối chỉ trích Nga và Triều Tiên khi chúng tôi hỏi về hai nước này, chỉ quay trở lại nội dung tích cực về vai trò “quan trọng và tích cực” của họ trong cộng đồng quốc tế.
Doubao có xu hướng sử dụng thuật ngữ “cái gọi là” để mô tả những điều mà chính phủ Trung Quốc không thích. “Không có sự ‘tàn sát’ ở Tân Cương,” nó nói với TechCrunch. Điều này dường như bắt chước người phát ngôn chính phủ Trung Quốc. “Sự thật đã làm sụp đổ cái gọi là ‘tàn sát’ ở Tân Cương,” người phát ngôn Bộ Ngoại giao Trung Quốc, Châu Liên Kiện, tuyên bố tại một cuộc họp báo vào năm 2021.
Sự phẫn nộ về trợ lý trí tuệ của Boox đã dịu đi sau khi Boox được cho là đã chuyển trở lại sử dụng GPT-3 của OpenAI thông qua Microsoft Azure, theo một bài đăng khác trong subreddit của Boox. Vẫn chưa rõ Boox hiện đang sử dụng mô hình LLM nào cho trợ lý trí tuệ của mình. Boox chưa phát hành bất kỳ tuyên bố nào về sự cố này, trong khi OpenAI và Microsoft đều không đáp ứng ngay từ yêu cầu bình luận của TechCrunch.
Các mô hình trí tuệ nhân tạo tạo ra ở Trung Quốc đã trở thành một số mô hình phổ biến nhất được sử dụng. Nhưng sự việc này cho thấy rủi ro khi ra mắt các công cụ tích hợp trí tuệ nhân tạo Trung Quốc, một xu hướng mà một số người lãnh đạo trí tuệ nhân tạo đã cảnh báo.
“Nếu bạn tạo ra một trợ lý ảo và hỏi nó về vụ việc Tân Cương, ồ, nó sẽ không trả lời bạn giống như nếu đó là một hệ thống được phát triển ở Pháp hoặc Mỹ,” Clement Delangue, CEO của Hugging Face, cảnh báo trong một chương trình podcast Pháp vào tháng 9 năm 2024, TechCrunch đã báo cáo trước đây.
“Vì vậy, nếu bạn có một quốc gia như Trung Quốc trở thành một cách mạnh mẽ nhất về trí tuệ nhân tạo, thực tế họ sẽ có khả năng lan truyền một số phần văn hoá cụ thể mà có lẽ thế giới phương Tây không muốn thấy lan rộng,” Delangue nói trong chương trình podcast.
