Quá trình sàng lọc được bắt đầu với phần mềm quét theo dõi các đoạn hội thoại để phát hiện ra những từ hoặc cụm từ cho thấy có cái gì đó không ổn, chẳng hạn như một cuộc trao đổi thông tin cá nhân hay ngôn ngữ thô tục.
Phần mềm này quan tâm nhiều hơn đến các đoạn chat giữa những người dùng không có một kết nối được thiết lập tốt trên Facebook và "sở hữu" dữ liệu hồ sơ cá nhân cho thấy có cái gì đó bất thường, chẳng hạn như khoảng cách tuổi tác quá rộng. Chương trình quét này cũng rất "thông minh", có thể ghi nhớ và để mắt đến các cụm từ nhất định được tìm thấy trong hồ sơ các cuộc trò chuyện trước đây được ghi lại từ tội phạm.
Facebook đang tham gia tích cực vào hoạt động phòng chống tội phạm nhờ theo dõi các đoạn chat của người dùng
Nếu phần mềm quét này phát hiện ra một cuộc trao đổi đáng ngờ sẽ thông báo cho đội ngũ nhân viên an ninh Facebook. Đội ngũ nhân viên này sau đó sẽ xác định liệu có nên thông báo cho cảnh sát về vụ việc hay không.
Tất nhiên, việc giữ các đoạn hội thoại được "quét" của người dùng bên ngoài sự kiểm soát của nhân viên Facebook có thể giúp mạng xã hội này tránh được những lời chỉ trích từ những người ủng hộ quyền riêng tư trực tuyến nhưng điều đáng nói là hiện vẫn chưa rõ các đoạn chat đó có được xóa hay được lưu trữ vĩnh viễn hay không.
Những thông tin chi tiết mới về hệ thống giám sát của Facebook được hé lộ trong một cuộc phỏng vấn trưởng phòng an ninh của Facebook Joe Sullivan mà hãng tin Reuters vừa tiến hành. Ít nhất một kẻ lạm dụng trẻ em đã bị đưa ra xét xử trực tiếp từ kết quả của hoạt động "quét" các đoạn chat mà Facebook đang tiến hành.
"Chúng tôi chưa bao giờ muốn tạo ra một môi trường mà ở đó chúng tôi có những nhân viên theo dõi các cuộc trò chuyện riêng tư", Joe Sullivan nhấn mạnh. Facebook hiện đang làm việc với cơ quan thực thi pháp luật để đảm bảo sự an toàn của người dùng mạng xã hội này.
"Chúng tôi có thể tiết lộ thông tin theo yêu cầu của tòa án hoặc các yêu cầu khác (bao gồm các vấn đề hình sự và dân sự) nếu chúng tôi có một thông tin đáp ứng được yêu cầu của pháp luật. Chúng tôi cũng có thể chia sẻ thông tin khi nó cần thiết để ngăn chặn hành vi gian lận hoặc các hoạt động bất hợp pháp khác".
Trước đây, Facebook đã từng hợp tác với các cuộc điều tra của cảnh sát. Hồi tháng 4, theo yêu cầu từ phía Sở cảnh sát Boston, Facebook đã gửi bản in của các bài viết đăng tải trên "Tường"(Wall), ảnh và dữ liệu login/IP của một kẻ tình nghi giết người.