Trong chuyển vụ từ chối, nền tảng chatbot Character AI tuyên bố rằng nó được bảo vệ bởi Hiến pháp Hoa Kỳ

Character AI, một nền tảng cho phép người dùng tham gia vai trò với AI chatbot, đã nộp đơn từ chối một vụ kiện được đưa ra chống lại nó bởi phụ huynh của một thiếu niên đã tự tử, một cách bí mật sau khi trở nên nghiện công nghệ của công ty.

Vào tháng 10, Megan Garcia đã nộp đơn kiện Character AI tại Tòa án Quận liên bang Hoa Kỳ cho Quận Trung Florida, Địa bàn Orlando, liên quan đến cái chết của con trai bà, Sewell Setzer III. Theo Garcia, con trai 14 tuổi của bà đã phát triển một mối liên kết cảm xúc với một chatbot trên Character AI, "Dany," mà anh ta đã nhắn tin liên tục - đến mức anh ta bắt đầu rút lui khỏi thế giới thực.

Sau cái chết của Setzer, Character AI đã tuyên bố sẽ triển khai một loạt các tính năng an toàn mới, bao gồm cải thiện phát hiện, phản ứng và can thiệp liên quan đến các cuộc trò chuyện vi phạm điều khoản dịch vụ của mình. Nhưng Garcia đang chiến đấu cho thêm rào cản bảo vệ, bao gồm các thay đổi có thể dẫn đến chatbot trên Character AI mất khả năng kể chuyện và kể chuyện cá nhân.

Trong đơn từ chối, luật sư của Character AI khẳng định rằng nền tảng này được bảo vệ khỏi trách nhiệm dân sự bởi Hiến pháp Hoa Kỳ, đúng như mã máy tính. Nguyên tác có thể không thuyết phục một thẩm phán, và các biện pháp pháp lý của Character AI có thể thay đổi khi vụ kiện tiến triển. Nhưng đơn từ bỏ có thể gợi ý về những phần từ về phòng thích đấu của Character AI.

'Hiến pháp cấm trách nhiệm cho các công ty truyền thông và công nghệ nảy sinh từ lời nói có hại, bao gồm lời nói mà theo nghiên cứu đã dẫn đến tự tử,' tài liệu đã ghi. 'Sự khác biệt duy nhất giữa vụ án này và những vụ đã xảy ra trước đó là một số lời nói ở đây liên quan đến AI. Nhưng ngữ cảnh của việc diễn đạt - dù là một cuộc trò chuyện với một AI chatbot hoặc một tương tác với một nhân vật trò chơi video - không thay đổi phân tích theo Hiến pháp.

Để rõ ràng, luật sư của Character AI không khẳng định quyền lợi dân sự theo Hiến pháp của công ty. Thay vào đó, đơn từ chối lập luận rằng người dùng của Character AI sẽ bị vi phạm quyền lợi dân sự theo Hiến pháp nếu vụ kiện chống lại nền tảng này thành công.

Đơn từ bỏ không đề cập đến việc liệu Character AI có thể được miễn trách dựa trên Điều 230 của Đạo luật An tòa truyền thông, luật bảo vệ liên quan đến trách nhiệm của các trang mạng xã hội và các nền tảng trực tuyến khác đối với nội dung do bên thứ ba cung cấp. Những người viết luật đã ám chỉ rằng Điều 230 không bảo vệ đầu ra từ AI như chatbot của Character AI, nhưng thực tế đang rất chưa rõ.

Luật sư của Character AI cũng cho rằng ý định thực sự của Garcia là 'đóng cửa' Character AI và khích lệ lập pháp điều chỉnh các công nghệ tương tự. Nếu các tố tụng thành công, nó sẽ tạo ra một 'tác động làm lạnh' đối với cả Character AI và toàn bộ ngành công nghiệp AI sáng tạo mới nổi, luật sư của nền tảng nói.

'Ngoài ý định công bố đóng cửa Character AI, [yêu cầu của họ] tìm kiếm những thay đổi đột phá có thể giới hạn mạnh mẽ tính chất và khối lượng lời nói trên nền tảng,' tài liệu nói. 'Những thay đổi này sẽ hạn chế đòi hỏi của hàng triệu người dùng của Character AI để tạo và tham gia trong cuộc trò chuyện với các nhân vật.'

Vụ kiện, mà cũng đặt tên Alphabet, nhà tài trợ doanh nghiệp của Character AI, là chỉ một trong số nhiều vụ kiện mà Character AI đang đối mặt liên quan đến cách thiếu niên tương tác với nội dung được tạo bởi AI trên nền tảng của mình. Các vụ kiện khác cáo buộc rằng Character AI đã phơi loạt nội dung 'quá tình dục' cho một đứa trẻ 9 tuổi và quảng cáo tự tử cho một người dùng 17 tuổi.

Vào tháng 12, Luật sư Tổng bộ Texas Ken Paxton đã tuyên bố rằng ông đang khởi tố điều tra vụ kiện Character AI và 14 công ty công nghệ khác về cáo buộc vi phạm luật pháp và an toàn trực tuyến dành cho trẻ em của bang. “Các cuộc điều tra này là một bước quan trọng để đảm bảo rằng các công ty truyền thông xã hội và AI tuân thủ các luật pháp của chúng tôi được thiết kế để bảo vệ trẻ em khỏi khai thác và nguy hại,' Paxton nói trong một thông cáo báo chí.

Character AI là một phần của một ngành công nghiệp tiêp tục phát triển của các ứng dụng AI gắn kết - tác động về sức khỏe tinh thần của đó chưa được nghiên cứu một cách toàn diện. Một số chuyên gia đã bày tỏ lo ngại rằng những ứng dụng này có thể làm tăng cảm giác cô đơn và lo âu.

Character AI, được thành lập vào năm 2021 bởi Nhà nghiên cứu AI của Google Noam Shazeer, và mà Google đã báo cáo trả 2.7 tỷ đô-la để 'đảo ngược mua lại,' đã tuyên bố rằng công ty tiếp tục thực hiện các bước để cải thiện an toàn và kiểm duyệt. Vào tháng 12, công ty triển khai các công cụ an toàn mới, một mô hình AI riêng cho tuổi teen, cấm nội dung nhạy cảm và thông báo rõ ràng hơn thông báo cho người dùng biết rằng các nhân vật AI của mình không phải là người thật.

Character AI đã trải qua một số thay đổi nhân sự sau khi Shazeer và người sáng lập công ty khác, Daniel De Freitas, rời Google. Nền tảng đã thuê một giám đốc sản phẩm cấp cao trước đây của YouTube, Erin Teague, và đặt tên Dominic Perella, từng là cố vấn pháp lý chung của Character AI, giữ chức CEO tạm thời.

Character AI gần đây đã bắt đầu thử nghiệm trò chơi trên web để tăng cường sự tham gia và giữ chân người dùng.

TechCrunch có một bản tin tập trung vào AI! Đăng ký tại đây để nhận nó trong hộp thư của bạn mỗi thứ Tư.