Deepfake khiêu dâm len lỏi trong nhóm chat ở Hàn Quốc

Người dân Hàn Quốc biểu tình yêu cầu bảo vệ thông tin cá nhân của nữ giới trên Internet.

Các nhóm trò chuyện (nhóm chat) trên ứng dụng Telegram tại Hàn Quốc ngập tràn hình ảnh, video deepfake khiêu dâm của nữ sinh nhưng chủ yếu do nam giới chỉnh sửa. Hành vi như vậy từng xuất hiện tại nước này.

Ảnh giả, nỗi đau thực

Đầu tháng 9, chị Heejin (nhân vật sử dụng tên giả) nhận được một tin nhắn nặc danh gửi từ Telegram với nội dung: “Hình ảnh và thông tin cá nhân của bạn đã bị rò rỉ. Chúng ta hãy nói chuyện”. Sau đó, phía bên kia gửi chị 2 bức ảnh, trong đó một bức chụp Heejin hồi còn học phổ thông và bức còn lại là ảnh khiêu dâm giả.

Sợ hãi và bất ngờ, Heejin không có bất kỳ phản ứng gì. Trái lại, kẻ lạ vẫn tiếp tục gửi những bức ảnh sử dụng công nghệ deepfake ghép mặt của Heejin vào một cơ thể đang quan hệ tình dục. “Tôi rất sợ hãi và tôi cảm thấy rất cô đơn”, cô gái trẻ nói.

Vậy nhưng Heejin không đơn độc. Giới chức Hàn Quốc gần đây đã phát hiện các đường dây trò chuyện về deepfake khiêu dâm trên ứng dụng Telegram ở các trường học. Deepfake là công nghệ ứng dụng trí tuệ nhân tạo (AI) tạo ra các sản phẩm công nghệ âm thanh, hình ảnh và video làm giả đối tượng ngoài đời thực với độ chính xác rất cao.

Dựa trên tệp tin hình ảnh khuôn mặt, giọng nói của một người ngoài đời thực, deepfake sẽ sử dụng thuật toán để tái tạo lại khuôn mặt và giọng nói phù hợp với nét mặt, biểu cảm của một người hoàn toàn giống với họ ngoài đời thực.

Theo nhà báo Ko Narin, một trong những người đầu tiên phát hiện ra sự việc, trong các nhóm trò chuyện trên Telegram, người dùng chia sẻ ảnh của những người phụ nữ họ quen biết và sử dụng phần mềm trí tuệ nhân tạo (AI) để chuyển chúng thành hình ảnh khiêu dâm giả chỉ trong vài giây.

“Cứ mỗi phút, mọi người sẽ tải ảnh của những cô gái mà họ quen biết lên mạng và biến chúng thành deepfake”, cô Ko Narin nói.

Nạn nhân của những nhóm chat này không chỉ là giảng viên, sinh viên đại học, mà còn có giáo viên, học sinh trung học phổ thông, thậm chí là trung học cơ sở. Nhiều trường hợp còn vô tình trở thành nạn nhân.

Người dùng sẽ lén tải ảnh từ tài khoản mạng xã hội của nạn nhân rồi chế ra hình ảnh nhạy cảm và chia sẻ vào nhóm trò chuyện. Tuy nhiên, phần lớn họ có mục đích là xúc phạm bạn cùng lớp và giáo viên.

Nhiều nạn nhân bị chỉnh sửa ảnh nhiều đến mức những nội dung khiêu dâm về họ trở nên phổ biến trên Telegram, được tạo nhóm chat riêng với điều kiện tham gia vô cùng nghiêm ngặt.

Trà trộn vào một phòng chat trên Telegram, Ko Narin bị sốc bởi mức độ nghiêm trọng của vấn đề. Mỗi thành viên phải đăng ít nhất 4 bức ảnh của nạn nhân, kèm theo tên, tuổi và khu vực sinh sống. Đáng chú ý, thành viên trong nhóm hầu hết là nam sinh đại học, cấp 3.

Nữ nhà báo bày tỏ: “Tôi đã bị sốc vì quy trình này có hệ thống và tổ chức bài bản như thế nào. Điều kinh hoàng nhất mà tôi phát hiện là một nhóm chat với hơn 2 nghìn học sinh vị thành niên”.

Từng có tiền lệ

Từ sau bài báo của Narin, các nhà hoạt động nữ quyền bắt đầu tìm kiếm các phòng chat trên Telegram và theo dõi các manh mối. Nữ sinh và giáo viên của hơn 500 trường phổ thông và đại học được xác định là mục tiêu của deepfake, trong đó nhiều nạn nhân được cho là dưới 16 tuổi.

Khi bí mật bị phanh phui, phụ nữ trên khắp cả nước lo lắng bản thân đã trở thành nạn nhân của deepfake từ lúc nào không hay. Mọi người đồng loạt xóa ảnh trên các trang mạng xã hội hoặc xóa tài khoản vĩnh viễn vì lo sợ hình ảnh của bản thân bị sử dụng với mục đích xấu.

Ah-eun, sinh viên đại học có bạn bè là nạn nhân của deepfake, chia sẻ: “Chúng tôi thất vọng và tức giận vì phải hạn chế hoạt động trên mạng xã hội của mình dù chúng tôi không làm gì sai. Có những nạn nhân đã báo cảnh sát nhưng rất khó tìm ra tội phạm vì những bức ảnh đó là giả”.

Các tổ chức bảo vệ quyền phụ nữ tại Hàn Quốc nhận định công nghệ AI mới đang giúp việc lợi dụng nạn nhân trở nên dễ dàng hơn và đây chỉ là hình thức kỳ thị phụ nữ mới trên mạng ở Hàn Quốc.

Trước đó, phụ nữ đã phải chịu làn sóng lăng mạ bằng lời nói trực tuyến. Sau này là camera quay lén trong nhà vệ sinh công cộng và phòng thay đồ. “Nguyên nhân gốc rễ của vấn đề này là chủ nghĩa phân biệt giới tính có hệ thống và giải pháp là bình đẳng giới”, một tổ chức bảo vệ nữ quyền cho biết.

Bà Lee Myung-hwa, chuyên gia tâm lý điều trị cho tội phạm tình dục trẻ tuổi, đồng tình rằng dù tình trạng lạm dụng deepfake bùng phát đột ngột, nhưng nó đã “ẩn núp” từ lâu. Deepfake đã trở thành một phần trong văn hóa của người trẻ và công nghệ này được coi là một trò chơi hoặc trò đùa.

Theo chuyên gia này, cần giáo dục những người đàn ông trẻ tuổi về những hành vi sai, từ đó giúp họ nhận thức rõ hơn thế nào là lạm dụng tình dục và ngăn họ vi phạm.

Nạn nhân trong các nhóm chat deepfake là nữ giới.

“Ung nhọt” của xã hội

Trước vấn nạn deepfake, phụ nữ Hàn Quốc từng phải đối mặt với tình trạng quay lén và đã tổ chức hàng loạt cuộc biểu tình vào năm 2018 nhằm buộc giới chức bổ sung các điều luật cấm hành vi trên. Chỉ trong vài năm, phụ nữ lại tiếp tục xuống đường yêu cầu chấm dứt tình trạng lạm dụng tình dục.

Juhee Jin, 26 tuổi, sống tại Seoul, nhận định tình trạng deepfake nhắm vào nữ giới Hàn Quốc không phải một điều mới mẻ bởi từng có tiền lệ và quá đáng buồn.

“Vấn đề này đáng lẽ phải được giải quyết từ lâu rồi. Tôi hy vọng cơ quan chức năng sẽ có biện pháp phòng ngừa và tuyên truyền để mọi người có thể ngăn chặn những tội ác này tiếp tục diễn ra”, Juhee bày tỏ.

Tương tự, nhiều nhà hoạt động vì quyền phụ nữ cáo buộc Chính phủ Hàn Quốc đã để tình trạng lạm dụng tình dục trên Telegram diễn ra quá lâu, trở thành “ung nhọt” của xã hội. Năm 2019, người dân Hàn Quốc cũng phát hiện một đường dây mại dâm sử dụng Telegram để ép buộc phụ nữ, trẻ em tạo và chia sẻ hình ảnh khiêu dâm của chính họ.

Chị Park Jihyun, người phát hiện ra đường dây mại dâm vào năm 2019 kể từ đó đã trở thành người đấu tranh vì quyền phụ nữ. Chị cho biết sau vụ bê bối deepfake, nhiều học sinh, phụ huynh đã gọi điện tâm sự và khóc rất nhiều. Họ thấy tên của bản thân, của con cái trong những nhóm bẩn thỉu và sợ hãi.

Park đã cùng nhiều người khác dẫn đầu các cuộc kêu gọi chính phủ quản lý hoặc cấm Telegram tại nước này. “Nếu các công ty công nghệ này không hợp tác với các cơ quan thực thi pháp luật, thì nhà nước phải quản lý họ để bảo vệ công dân của mình”, Park nói.

Khi sự việc bị phơi bày, Chính phủ Hàn Quốc thông báo sẽ siết chặt luật và đưa việc mua hoặc xem video khiêu dâm deepfake là hành vi phạm tội. Nước này sẽ tiến hành chiến dịch trấn áp tội phạm tình dục kỹ thuật số trong 7 tháng nhằm điều tra kỹ và xử lý loại hình tội phạm này, tiến tới loại bỏ hoàn toàn.

Tuy nhiên, nhiều nhà vận động vì quyền phụ nữ cho biết biện pháp này khó có thể dập tắt vấn nạn trên. Người dân Hàn Quốc được sử dụng Internet tốc độ cao hàng đầu thế giới và sử dụng điện thoại thông minh nhanh nhất thế giới. Điều này kết hợp với mức độ phổ biến của Telegram, những tiến bộ trong AI và luật pháp lỏng lẻo làm trầm trọng thêm vấn đề.

Nội dung khiêu dâm chủ yếu được lan truyền qua ứng dụng Telegram.

Bảo vệ trẻ em trên Internet

Ông Heather Barr, Phó Giám đốc Tổ chức Theo dõi Nhân quyền, cho biết: “Bạo lực giới trực tuyến đang là vấn đề gia tăng trên toàn cầu nhưng đặc biệt phổ biến ở Hàn Quốc. Giáo dục về tình dục trong các trường học Hàn Quốc còn hạn chế nên không nhiều người trẻ tuổi nhận thức được hành vi này là sai trái”.

Trong lúc đợi Chính phủ Hàn Quốc sử dụng những biện pháp mạnh mẽ, Tổ chức Cứu trợ Trẻ em (Save the Children) đã phối hợp với Ủy ban Bảo vệ Thông tin Cá nhân Hàn Quốc (PIPC) triển khai dự án “Xóa khỏi trẻ em” (Delete the Children) nhằm tăng cường bảo vệ hình ảnh trẻ em trên không gian mạng.

Deepfake tạo ra những bức ảnh, video làm giả đối tượng ngoài đời thực.

Dự án này cho phép PIPC yêu cầu người quản lý các trang web xóa hoặc ẩn các bài đăng có chứa thông tin cá nhân của trẻ vị thành niên nhưng chỉ được phép xóa những thông tin có nội dung ban đầu là chính xác.

Tổ chức Cứu trợ Trẻ em đang yêu cầu mở rộng quy định, cho phép phụ huynh và trẻ em có thể yêu cầu xóa bất kì thông tin trực tuyến nào, bao gồm hình ảnh đã qua chỉnh sửa. Trẻ em được phép quyết định các nội dung về thông tin cá nhân của mình trên Internet.

Một cuộc khảo sát trẻ em toàn quốc do Tổ chức Cứu trợ Trẻ em tại Hàn Quốc thực hiện chỉ ra, 85,5% trẻ em từ 10 - 18 tuổi ủng hộ việc xóa thông tin của trẻ em trực tuyến, bao gồm hình ảnh. 98% trẻ em sẽ yêu cầu xóa thông tin cá nhân đã được người khác đăng tải mà không có sự đồng ý của chúng.

PIPC và Tổ chức Cứu trợ Trẻ em cũng hướng đến mục tiêu nâng cao nhận thức xã hội về việc bảo vệ thông tin cá nhân của trẻ em trực tuyến và kêu gọi chính phủ đảm bảo thông tin nhận dạng của trẻ em, như hình ảnh, sẽ được xóa khỏi các nền tảng trực tuyến.

Bà Kang Mijeong, Giám đốc Bộ phận Vận động chính sách của Tổ chức Cứu trợ Trẻ em tại Hàn Quốc, nhấn mạnh: “Khi video hoặc hình ảnh của trẻ em được đăng tải mà chưa có sự cho phép, nó sẽ lan truyền như cháy rừng và gây ra nỗi đau kéo dài cho những đứa trẻ. Chúng ta cần phải làm tốt hơn để hỗ trợ quyền tự quyết kỹ thuật số của trẻ em”.

Hàn Quốc là một trong những quốc gia có nhiều nội dung khiêu dâm deepfake nhất thế giới. Theo báo cáo năm 2023 của Công ty phòng chống trộm danh tính Security Hero, Mỹ, các ca sĩ và diễn viên nữ Hàn Quốc chiếm 53% định dạng deepfake trên toàn cầu.