ฐานข้อมูลเนื้อหาทรชน จะละเมิดความเป็นส่วนตัวของคุณหรือไม่?

เฟซบุ๊ก, ทวิตเตอร์, ไมโครซอฟท์, และ YouTube ประกาศว่าจะร่วมกันสร้างฐานข้อมูลใหญ่ ฐานข้อมูลนี้จะมีรูปภาพและวิดีโอที่เครือข่ายทรชนใช้เผยแพร่โปแปกานดาและดึงดูดผู้สมัครใหม่ ฐานข้อมูลจะแจ้งเตือนบริษัทเหล่านี้เมื่อมีบางอย่างบนเว็บของพวกเขาน่าจะละเมิดเงื่อนไขการใช้งาน

ดูเหมือนความคิดที่ดีใช่ไหม?

รายละเอียด

ขณะนี้รายละเอียดยังไม่ชัดเจน แต่ละรูปภาพและวิดีโอในฐานข้อมูลจะมี "ลายนิ้วมือดิจิทัลที่ไม่ซ้ำ" และบริษัทจะได้รับแจ้งเมื่อเนื้อหานั้นปรากฏบนเว็บของพวกเขา เริ่มต้นโปรแกรม บริษัทจะเพิ่มแค่ "รูปภาพและวิดีโอทรมานและเลวร้ายที่สุดของทรชน" ลงในฐานข้อมูล

ความคิดคือ รูปภาพและวิดีโอเหล่านี้จะเป็นสิ่งที่น่าจะละเมิดเงื่อนไขการใช้งานของทุกแพลตฟอร์มมากที่สุด ทำให้ตัดสินใจลบเนื้อหานั้นง่าย หากมันปรากฏที่อื่น แต่ละบริษัทตัดสินใจเองว่ารูปภาพและวิดีโอไหนควรอยู่ในฐานข้อมูล พวกเขายังมีอำนาจตัดสินใจว่าจะลบเนื้อหาหรือไม่ หากมันปรากฏบนเว็บของพวกเขา

นี่คือสิ่งที่เรารู้จนตอนนี้ Twitter หวังว่า "การร่วมมือนี้จะนำไปสู่ประสิทธิภาพมากขึ้นขณะที่เราบังคับนโยบายเพื่อช่วยลดปัญหาโลกที่กดดันเรื่องเนื้อหาทรชนออนไลน์" แต่มันไม่รู้มากจริงๆ ใครจะตัดสินใจว่าจะมีเนื้อหาอะไร? บริษัทจะตั้งคณะกรรมการตรวจสอบอิสระสำหรับเรื่องนี้ไหม? หรือแค่เพิ่มทีละนิดทีละอย่างเมื่อพวกเขามีอารมณ์?

ประวัติที่แย่

การควบคุมเนื้อหาออนไลน์ยากมาก ไม่ว่าจะเป็นข้อมูลผิด, การละเมิด, วิดีโอจ้างทรมาน, หรือหนึ่งในหลายชนิดของเนื้อหาแย่ออนไลน์ มีเหมืองระเบิดของปัญหาที่เป็นส่วนหนึ่งของกระบวนการ ใครตัดสินใจว่ากลุ่มไหนเป็นทรชน? การตัดสินใจลบเนื้อหาทำอย่างไร? บริษัทจะออกไปหา หรือพึ่งพาผู้ใช้รายงาน?

Microsoft ในบันทึกเกี่ยวกับเนื้อหาทรชนออนไลน์ กล่าวว่า:

เมื่อเนื้อหาทรชนบนบริการผู้บริโภคที่เราโฮสต์ ถูกส่งมาให้ทราบผ่านเครื่องมือรายงานออนไลน์ เราจะลบมัน

และพวกเขาให้ลิงก์ฟอร์มที่ใช้รายงานเนื้อหาทรชนโดยเฉพาะ แต่ใครจะไปหาและใช้ฟอร์มนั้นจริงๆ โอกาสเท่าไหร่? พวกเขายังพูดว่าจะ "ลบลิงก์ไปยังเนื้อหาที่เกี่ยวกับทรชนจาก Bing เฉพาะเมื่อการลบถูกกำหนดให้ผู้ให้บริการค้นหาตามกฎหมายท้องถิ่น"

นี่วางภาระไว้ที่อื่นอีกครั้ง

ประเด็นความรับผิดชอบ

Electronic Frontier Foundation เขียนอย่างกว้างขวางเกี่ยวกับความยากลำบากในการควบคุมเนื้อหาแบบนี้ออนไลน์ ในปี 2014 พวกเขาคัดค้านแผนของ UK ที่บังคับ ISP บล็อก "เนื้อหาขั้วโข่ง" โดยไม่มีความโปร่งใสและกระบวนการรับผิดชอบ กลุ่มสิทธิมนุษยชนวิพากษ์วิจารณ์ฝรั่งเศส ด้วยนิยามกิจกรรมทรชนที่กว้างเกินไป

Twitter และ Facebook มีประวัติแย่ในการควบคุมเนื้อหาบนเว็บของพวกเขา แม้ Twitter ลบบัญชีเกี่ยวกับ ISIS เกิน 100,000 บัญชี และเริ่มควบคุมกลุ่มเกลียดชังแรงขึ้น แต่มีชื่อเสียงแย่ในการปล่อยให้ขั้วโข่งและการละเมิดวิ่งได้อิสระบนแพลตฟอร์ม Facebook ก็ดูพอใจกับแนวทางไม่แทรกแซงภายใต้ธงเสรีภาพพูด

แน่นอน การจัดการความรับผิดชอบแบบนี้ยาก ผมไม่ได้บอกว่าง่าย แตบริษัทเทคโนโลยีเก่งในการแยกตัวออกจากสิ่งที่เทคโนโลยีของพวกเขาถูกใช้ ทั้งการเผยแพร่รูปภาพ วิดีโอ การจ้างทรมาน และเนื้อหาอื่นๆ ของทรชน ใน สิงหาคม 2016 รายงานอังกฤษระบุว่า เฟซบุ๊ก, ทวิตเตอร์, และ YouTube "ล้มเหลวโดยเจตนาในการต่อสู้การใช้เว็บของพวกเขาเพื่อส่งเสริมการทรมานและการฆาตกรรม"

การสร้างฐานข้อมูลรูปภาพและวิดีโอไม่ดูว่าจะเปลี่ยนสิ่งนั้น มันเป็นข่าวดีที่พวกเขากำลังดำเนินการ แต่ยากที่จะจินตนาการว่าจะมากกว่าครึ่งใจ

นี่อาจเป็นปัญหาความเป็นส่วนตัวได้ไหม?

เพราะบริษัทจะเพิ่มรายการลงฐานข้อมูลด้วยตนเองหลังผู้ใช้รายงาน ไม่ดูว่าจะมีโอกาสรูปภาพหรือวิดีโอของคุณหลุดเข้าไปในฐานข้อมูลโดยบังเอิญ ซึ่งเป็นข่าวดี อย่างไรก็ตาม การสร้างฐานข้อมูลกลางใหญ่เต็มไปด้วยเนื้อหา "แย่" ที่ระบุตัวตนเฉพาะเจาะจง น่ากลัว

นี่เพราะผู้ที่มีอำนาจในขณะนั้น ตัดสินใจว่าอะไรคือ "แย่" นี่เป็นจริงมากหากมีรัฐบาลเกี่ยวข้อง คุณอาจเป็นส่วนใหญ่วันหนึ่ง และกลายเป็นกลุ่มน้อยที่ถูกข่มขหาในวันถัดไป การปรับใช้เทคโนโลยีแบบนี้ทำให้การเปลี่ยนแปลงแบบนั้นน่ากลัวขึ้น

แน่นอน ไม่มีการบ่งชี้ว่าบริษัทเหล่านี้จะใช้ฐานข้อมูลนี้สำหรับอะไรนอกจากการบังคับใช้เงื่อนไขการใช้งานของตนเองแบบคลาดเคลื่อน แต่ข้อเท็จจริงที่องค์กรเอกชนพัฒนาและปรับใช้เทคโนโลยีนี้ อาจทำให้บางคนกังวล รัฐบาลแน่นอนมีเทคโนโลยีเฝ้าระวังที่ทรงพลังเท่านี้แล้ว แต่การแพร่กระจายอาจเป็นสัญญาณว่าบริษัทจะมีเครื่องมือเก็บข้อมูลมากขึ้นในอนาคตอันใกล้

ขณะนี้ ไม่มีเหตุผลที่จะกังวลว่าความเป็นส่วนตัวของคุณจะถูกคุกคามโดยฐานข้อมูลเนื้อหาทรชน แต่องค์กรความเป็นส่วนตัวและการสนับสนุน ควรเฝ้าติดตามการปรับใช้เทคโนโลยีแบบนี้ที่อื่นๆ

ก้าวไปข้างหน้า?

ดีที่เห็นบริษัทเทคโนโลยีก้าวหน้าและเป็นเชิงรุกเกี่ยวกับเนื้อหาทรชนบนแพลตฟอร์มของพวกเขา แต่ประวัติของพวกเขาเต็มไปด้วยการบังคับใช้แบบคลาดเคลื่อนและการละเลยโดยเจตนา เครื่องมือนี้จะช่วยห้วนให้กลับมาดีขึ้นไหม? ดูไม่น่าจะเป็นไปได้ (เว้นแต่จะทำอัตโนมัติ ซึ่งมาพร้อมปัญหาอื่นเยอะ) ตามความคิดเห็นของผม ฐานข้อมูลนี้จะไม่เปลี่ยนอะไรมาก และ Twitter, Facebook, Microsoft, และ YouTube อาจคิดมันขึ้นมาเป็นมาตราสัมพันธ์สาธารณะ แทนที่จะเป็นสิ่งที่ทำดีจริง

คุณคิดอย่างไร? ฐานข้อมูลนี้จะช่วยต่อสู้การแพร่กระจายเนื้อหาทรชนออนไลน์ได้ไหม? หรือมันเป็นการแสดงที่ว่างเปล่าเพื่อขอความยินดีจากสาธารณะ? แชร์ความคิดในความคิดเห็นด้านล่าง!