Sa thải đã rút ruột đội an toàn trẻ em của Twitter

Các nhà nghiên cứu cho biết tầm quan trọng của các chuyên gia an toàn trẻ em trong nhà không thể được đánh giá thấp. Có trụ sở tại trụ sở Twitter Châu Á tại Singapore, nhóm thực thi lệnh cấm của công ty đối với tài liệu lạm dụng tình dục trẻ em (CSAM) ở khu vực Châu Á Thái Bình Dương. Hiện tại, nhóm đó chỉ có một nhân viên chính thức. Khu vực Châu Á Thái Bình Dương là nơi sinh sống của khoảng 4. 3 tỷ người, khoảng 60% dân số thế giới

Nhóm ở Singapore chịu trách nhiệm về một số thị trường nhộn nhịp nhất của nền tảng, bao gồm cả Nhật Bản. Twitter có 59 triệu người dùng ở Nhật Bản, chỉ đứng sau số lượng người dùng ở Hoa Kỳ, theo công cụ tổng hợp dữ liệu Statista. Tuy nhiên, văn phòng Singapore cũng đã bị ảnh hưởng bởi tình trạng sa thải và từ chức trên diện rộng sau khi Musk tiếp quản doanh nghiệp. Trong tháng trước, Twitter đã sa thải một nửa lực lượng lao động của mình và sau đó gửi email cho những nhân viên còn lại yêu cầu họ lựa chọn giữa cam kết làm việc "nhiều giờ với cường độ cao" hoặc chấp nhận gói trợ cấp thôi việc trong ba tháng lương.  

Carolina Christofoletti, một nhà nghiên cứu CSAM tại Đại học São Paulo ở Brazil, cho biết tác động của việc sa thải và từ chức đối với khả năng giải quyết CSAM của Twitter là “rất đáng lo ngại”. “Thật ảo tưởng khi nghĩ rằng sẽ không có tác động nào đến nền tảng nếu những người đang làm việc về an toàn cho trẻ em bên trong Twitter có thể bị sa thải hoặc được phép từ chức,” cô nói. Twitter đã không trả lời ngay lập tức yêu cầu bình luận

Các chuyên gia về an toàn cho trẻ em của Twitter không đơn độc chống lại CSAM trên nền tảng này. Họ nhận được sự giúp đỡ từ các tổ chức như Tổ chức Theo dõi Internet của Vương quốc Anh và Trung tâm Quốc gia về Trẻ em Mất tích & Bị bóc lột có trụ sở tại Hoa Kỳ, những tổ chức này cũng tìm kiếm trên Internet để xác định nội dung CSAM được chia sẻ trên các nền tảng như Twitter. IWF cho biết dữ liệu mà họ gửi đến các công ty công nghệ có thể được hệ thống của công ty tự động xóa mà không cần sự kiểm duyệt của con người. Emma Hardy, giám đốc truyền thông của IWF cho biết: “Điều này đảm bảo rằng quá trình ngăn chặn diễn ra hiệu quả nhất có thể.  

Vài tuần trước, Giám đốc điều hành Twitter, Elon Musk, đã yêu cầu các nhân viên còn lại của mình thể hiện lòng trung thành bằng cách nhắc họ nhấp vào liên kết "có" trong email. Bằng cách nhấp vào đồng ý, các nhân viên đã nói với Musk rằng họ đồng ý làm việc nhiều giờ hơn - nếu họ có thể giữ được công việc của mình. Đó là cách của Musk để xem ai trong nhóm hiện tại của anh ấy thực sự sẵn sàng ủng hộ những nỗ lực “cứng rắn” của anh ấy để xây dựng Twitter 2. 0. Musk nhanh chóng biết được lời đề nghị của anh ấy kém hấp dẫn như thế nào khi một số lượng lớn nhân viên không nhấp vào đồng ý và trong số những người từ chối các điều khoản nghiêm khắc của Musk, rõ ràng có gần một nửa nhóm Twitter toàn cầu chuyên ngăn chặn bóc lột tình dục trẻ em trên nền tảng này.

Ba người quen thuộc với đội ngũ nhân sự hiện tại của Twitter nói với Bloomberg rằng khi bắt đầu năm 2022, Twitter có 20 thành viên trong nhóm chịu trách nhiệm xem xét và leo thang các báo cáo về tài liệu lạm dụng tình dục trẻ em (CSAM). Ngày nay, sau khi sa thải và từ chức, có ít hơn 10 chuyên gia tạo thành thứ mà Bloomberg mô tả là “một đội ngũ cốt cán quá tải. ” Có vẻ như mặc dù Musk liên tục tweet rằng chặn CSAM là ưu tiên hàng đầu của Twitter và thậm chí còn đi xa đến mức mời người dùng tweet trực tiếp về CSAM với anh ấy, nhưng Musk có thể đã thua trong cuộc chiến ngăn chặn tài liệu này khỏi Twitter

“Musk đã không tạo ra một môi trường mà nhóm muốn ở lại,” nguồn tin nói với Bloomberg

Theo Bloomberg, đội ngũ nhân viên mà Musk mất đi bao gồm các chuyên gia về an toàn trẻ em và cựu nhân viên thực thi pháp luật ở Mỹ, Ireland và Singapore. Các nguồn tin cho biết nhóm này đã làm việc nhiều giờ hơn — trước khi Musk yêu cầu nhân viên cam kết làm nhiều giờ hơn — chỉ cố gắng theo kịp dòng báo cáo liên tục của người dùng và các yêu cầu pháp lý

Những người này đã xóa CSAM, hỗ trợ các cuộc điều tra của cơ quan thực thi pháp luật và—dựa vào suy luận của con người thay vì trí tuệ nhân tạo—đã xác định các tài khoản dụ dỗ trẻ vị thành niên hoặc quảng bá việc thu hút trẻ vị thành niên là lành mạnh

Mặc dù Twitter gần đây đã xóa một số thẻ bắt đầu bằng # đã biết được sử dụng để phát tán CSAM, nhưng động thái này không phải là một giải pháp hoàn chỉnh hoặc lâu dài vì các thẻ bắt đầu bằng # thay đổi và ngôn ngữ mã hóa mà những kẻ lạm dụng sử dụng để loại bỏ nội dung tự động cũng vậy. Vì việc xóa các thẻ bắt đầu bằng # này xảy ra sau khi Musk tiếp quản, nên thật dễ dàng để ghi nhận quyết định của anh ấy và coi đó là cam kết của anh ấy trong việc ngăn chặn CSAM. Tuy nhiên, các nguồn tin nói với Bloomberg rằng quyết định xóa các thẻ bắt đầu bằng # đã xảy ra trước khi Musk lên tàu

Theo Wired, chỉ còn lại một thành viên nhóm an toàn trẻ em để xử lý tất cả các báo cáo đến từ khu vực Châu Á-Thái Bình Dương. Điều này có nghĩa là Twitter có một chuyên gia hiểu cả luật khu vực để phối hợp với cơ quan thực thi pháp luật và phát triển các từ mã được sử dụng bằng các ngôn ngữ không phải tiếng Anh trong khu vực đó để tránh bị phát hiện

Vào sáng sớm hôm nay, Musk đã thức dậy và tweet, nhấn mạnh rằng việc xóa CSAM khỏi Twitter “sẽ mãi mãi là ưu tiên hàng đầu của chúng tôi. ”

Đó là một trách nhiệm mà anh ấy không thể né tránh. Không giống như chặn ngôn từ kích động thù địch và thông tin sai lệch—trong một số trường hợp, có thể vi phạm các quy tắc của Twitter—Musk được yêu cầu về mặt pháp lý để chặn CSAM trên nền tảng của mình

Điều đó có nghĩa là lời hứa “tự do ngôn luận, không phải tự do tiếp cận” (lên kế hoạch chứa thông tin và ngôn từ kích động thù địch phi tội phạm chỉ đơn giản bằng cách không quảng cáo cho người dùng Twitter) không phải là một chiến lược có thể chấp nhận được để đối phó với CSAM. Đặc biệt là ở châu Âu, các nhà lập pháp đang đàn áp CSAM, với các luật mới quy định cách các nền tảng tiếp cận an toàn cho trẻ em trực tuyến. Musk có thể tiếp tục mất tiền trên Twitter nếu anh ta có nguy cơ bị phạt, có thể lên tới 10% doanh thu của Twitter, vì vi phạm luật an toàn cho trẻ em. Dự luật An toàn Trẻ em Trực tuyến của Vương quốc Anh thậm chí còn đe dọa chặn các nền tảng theo khu vực trong những trường hợp nghiêm trọng mà CSAM không thể được kiểm soát đầy đủ

Musk dường như cũng biết rằng ông không thể để Twitter bị Apple App Store bỏ rơi, điều mà cựu giám đốc Twitter Trust & Safety Yoel Roth đã viết trên tờ The New York Times có thể xảy ra nếu Twitter không ưu tiên bảo vệ trẻ em trên nền tảng này.

Twitter đã không trả lời yêu cầu bình luận của Ars, nhưng The Verge đã báo cáo vào đầu năm nay rằng chính Twitter đã kết luận vào tháng 4 rằng “Twitter không thể phát hiện chính xác hành vi bóc lột tình dục trẻ em và khỏa thân không đồng thuận trên quy mô lớn. ” Vào tháng 9, Reuters đã báo cáo rằng một số thương hiệu đã bỏ Twitter đặc biệt vì Twitter đặt quảng cáo của họ bên cạnh CSAM. David Maddocks, chủ tịch thương hiệu của Cole Haan, đã tóm tắt những lo ngại của các nhà quảng cáo với Reuters, nói rằng, "Chúng tôi rất kinh hoàng. ”

Các chuyên gia nói với Wired rằng các tổ chức an toàn trẻ em giúp các nền tảng truyền thông xã hội như Twitter tự động phát hiện và loại bỏ rất nhiều CSAM, nhưng công nghệ này không thể thay thế người điều hành con người có quyền truy cập vào nhiều dữ liệu hơn các tổ chức bên ngoài

Vào tháng 9, khi Twitter vẫn còn người phát ngôn, Celeste Carswell nói với Reuters rằng Twitter đang “đầu tư nhiều nguồn lực hơn dành riêng cho sự an toàn của trẻ em, bao gồm tuyển dụng các vị trí mới để viết chính sách và thực hiện các giải pháp. ” Ars không thể tìm thấy bất kỳ danh sách công việc hiện tại nào cho các vị trí an toàn cho trẻ em, vì vậy cập nhật duy nhất kể từ đó dường như là slide mà Musk đã chia sẻ gần đây từ Twitter 2. 0 đã tuyên bố rộng rãi rằng, “Chúng tôi đang tuyển dụng. ”