Quốc gia đầu tiên chặn Grok vì lo ngại ảnh khiêu dâm AI
Indonesia vừa chính thức đưa ra quyết định tạm thời chặn quyền truy cập vào chatbot Grok, trở thành quốc gia đầu tiên trên thế giới thực hiện biện pháp "mạnh tay" này đối với công cụ trí tuệ nhân tạo của Elon Musk. Động thái trên được đưa ra trong bối cảnh lo ngại ngày càng tăng về việc AI này tạo ra các hình ảnh khiêu dâm trái phép, đe dọa an toàn số của người dân.
Vào ngày 10/1, chính phủ Indonesia đã thông báo tạm thời chặn chatbot Grok của xAI (công ty thuộc sở hữu của Elon Musk). Nguyên nhân chính được đưa ra là do những rủi ro liên quan đến nội dung khiêu dâm được tạo ra bởi trí tuệ nhân tạo (AI). Với quyết định này, Indonesia đã trở thành quốc gia đầu tiên trên thế giới cấm truy cập hoàn toàn vào công cụ này, đánh dấu một bước ngoặt trong việc quản lý các nền tảng AI toàn cầu.
Quyết định này không phải là ngẫu nhiên mà diễn ra ngay sau khi các chính phủ và cơ quan quản lý từ châu Âu đến châu Á lên tiếng chỉ trích mạnh mẽ về các nội dung bị "tình dục hóa" xuất hiện trên ứng dụng. Một số quốc gia thậm chí đã mở các cuộc điều tra về vấn đề này.
Trong một tuyên bố gửi tới báo giới, Bộ trưởng Bộ Truyền thông và Kỹ thuật số Indonesia, bà Meutya Hafid đã nhấn mạnh quan điểm cứng rắn của chính phủ. Bà khẳng định: "Chính phủ xem hành vi tạo ra các sản phẩm deepfake (giả mạo) có tính chất tình dục mà không có sự đồng thuận là một sự vi phạm nghiêm trọng đối với quyền con người, phẩm giá và sự an toàn của công dân trên không gian số".
Để giải quyết vấn đề, Bộ Truyền thông và Kỹ thuật số Indonesia cũng đã triệu tập các đại diện của nền tảng mạng xã hội X (trước đây là Twitter) để thảo luận và làm rõ trách nhiệm liên quan.
Trước làn sóng phản đối dữ dội, vào ngày 8/1, xAI - công ty khởi nghiệp đứng sau Grok - thông báo rằng họ sẽ giới hạn tính năng tạo và chỉnh sửa hình ảnh chỉ dành cho những người dùng đăng ký trả phí. Động thái này được coi là nỗ lực của công ty nhằm khắc phục các lỗ hổng trong hệ thống bảo vệ, vốn trước đó đã để lọt các hình ảnh nhạy cảm, bao gồm cả những hình ảnh mô tả trẻ em trong trang phục thiếu vải.
Tỷ phú Elon Musk cũng đã lên tiếng trên nền tảng X, tuyên bố rằng bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải đối mặt với những hậu quả tương tự như việc trực tiếp đăng tải nội dung đó lên mạng.
Indonesia, quốc gia có dân số theo Hồi giáo lớn nhất thế giới, từ lâu đã duy trì các quy định vô cùng nghiêm ngặt về nội dung trực tuyến. Các luật lệ tại đây cấm triệt để việc chia sẻ các nội dung bị coi là khiêu dâm hoặc đồi trụy trên mạng internet.
Việc chặn Grok được xem là một phần trong nỗ lực nhất quán của Indonesia nhằm làm trong sạch môi trường mạng và bảo vệ các giá trị văn hóa, xã hội trước sự tấn công của các nội dung độc hại do công nghệ mới tạo ra.