ลายน้ำ ChatGPT Watermarking ในสหภาพยุโรป: สิ่งที่ธุรกิจต้องรู้
ChatGPT watermarking เริ่มปรากฏในข้อความที่สร้างขึ้นสำหรับผู้ใช้ในสหภาพยุโรป ฟีเจอร์นี้ชื่อว่า textGrain ไม่เปลี่ยนรูปลักษณ์ของข้อความเมื่ออ่านหรือคัดลอกไปใช้งาน สิ่งที่ฟีเจอร์นี้ทำคือปรับการเลือกใช้คำอย่างแนบเนียน เครื่องมือตรวจจับจะหารูปแบบทางสถิติที่ซ่อนอยู่ได้ในภายหลัง สำหรับธุรกิจนอกสหภาพยุโรป เรื่องนี้ไม่ใช่แค่ข่าวระดับภูมิภาค แต่เป็นภาพตัวอย่างว่าเนื้อหาที่สร้างจาก AI จะถูกติดตามและตรวจสอบอย่างไรในทุกที่ และยังเผยให้เห็นว่าระบบติดตามนี้ยังเปราะบางเพียงใด
เรื่องนี้สำคัญกับทุกบริษัทที่ใช้เครื่องมือแชทแบบ AI ผู้ช่วยเขียนโค้ด หรือระบบลักษณะเดียวกัน ไม่ว่าจะใช้ร่างสัญญา เขียนโค้ด เขียนคำโฆษณา หรือตอบลูกค้า ลายน้ำถูกนำเสนอว่าเป็นเครื่องมือเพื่อความโปร่งใส แต่ตัวเลขทดสอบที่เผยแพร่ออกมากลับแสดงให้เห็นว่ามันพังได้ง่ายเมื่อมีการแก้ไขข้อความตามปกติ ถ้าธุรกิจของคุณพึ่งพาการเปิดเผยเนื้อหา AI เพื่อใช้ในงานด้านการปฏิบัติตามกฎระเบียบ สัญญากับคู่ค้า หรือนโยบายด้านวิชาการและสำนักพิมพ์ คุณจำเป็นต้องเข้าใจช่องว่างระหว่างคำโฆษณากับความเป็นจริงทางเทคนิค
การเปิดตัว ChatGPT Watermarking ครอบคลุมอะไรบ้าง
ในช่วงไม่กี่สัปดาห์ข้างหน้า ผู้ใช้ ChatGPT และ Codex ที่มีสิทธิ์ในสหภาพยุโรปทุกแพ็กเกจจะได้รับลายน้ำ textGrain โดยอัตโนมัติ นี่ยังไม่ใช่การเปิดใช้งานทั่วโลกในตอนนี้ มีสามเรื่องที่เกิดขึ้นพร้อมกัน
- การเปิดใช้งานในสหภาพยุโรป: ผลลัพธ์สำหรับผู้ใช้ในสหภาพยุโรปจะมีลายน้ำที่มองไม่เห็นติดมาด้วย เพื่อเรียนรู้จากการใช้งานจริงและข้อเสนอแนะ ก่อนจะขยายไปที่อื่น
- ลูกค้า API ทั่วโลกเลือกเปิดใช้เองได้: นักพัฒนาที่ใช้บางโมเดลผ่าน API สามารถเลือกเปิดใช้งานผลลัพธ์แบบมีลายน้ำได้ ค่าเริ่มต้นคือปิดอยู่จนกว่าจะเปิดเอง
- จำกัดสิทธิ์การเข้าถึงเครื่องมือตรวจจับ: เครื่องมือตรวจจับลายน้ำจะเปิดให้เฉพาะนักวิจัยที่ได้รับการอนุมัติและองค์กรผู้เชี่ยวชาญเป็นรายกรณี ไม่เปิดให้สาธารณะ เพราะมีความเสี่ยงที่จะตรวจไม่พบลายน้ำจริง หรือฟ้องผิดว่าเป็น AI ทั้งที่ไม่ใช่
วิธีการนี้มีรายงานว่าใกล้เคียงหรือดีกว่า SynthID สำหรับข้อความของ Google DeepMind ซึ่งเป็นพื้นฐานทางเทคนิคเดียวกับลายน้ำที่ห้องแล็บ AI คู่แข่งรายหนึ่งเปิดตัวไปเมื่อเดือนสิงหาคม ทั้งสองการเคลื่อนไหวนี้ถูกมองว่าเป็นการตอบสนองต่อข้อกำหนดด้านความโปร่งใสของเนื้อหา AI ภายใต้กฎหมาย EU AI Act ตามรายงานของ The Verge
ทำไม ChatGPT Watermarking จึงไม่ใช่ทางออกที่สมบูรณ์
ตัวเลขการตรวจจับที่เผยแพร่พร้อมกับการเปิดตัวต่างหากที่เป็นประเด็นสำคัญจริง ๆ เรื่องนี้สมควรได้รับความสนใจมากกว่าประกาศเปิดตัวฟีเจอร์ด้วยซ้ำ
ในการทดสอบกับข้อความยาว 400 token การแทนที่คำเพียง 10 เปอร์เซ็นต์ด้วยคำพ้องความหมายทำให้ความแม่นยำในการตรวจจับลดจากราว 92 เปอร์เซ็นต์ลงเหลือ 66 เปอร์เซ็นต์ หากแทนที่คำหนึ่งในสี่ ความแม่นยำลดลงเหลือเพียง 17 เปอร์เซ็นต์ การแก้ไขข้อความด้วยมือเพียงไม่กี่นาที หรือการนำผลลัพธ์ไปรันผ่านเครื่องมือเขียนใหม่ ก็เพียงพอที่จะเอาชนะลายน้ำได้ในกรณีใช้งานจริงส่วนใหญ่
การตรวจจับยังแตกต่างกันมากตามประเภทและความยาวของเนื้อหา เมื่อกำหนดเป้าหมายอัตราผิดพลาดเท็จไว้ที่ 1 เปอร์เซ็นต์ ระบบตรวจพบลายน้ำได้ประมาณ 80 เปอร์เซ็นต์ในคำตอบแนวจิตวิทยาความยาว 200 token เทียบกับประมาณ 95 เปอร์เซ็นต์สำหรับคำตอบความยาว 400 token ส่วนเนื้อหาด้านคณิตศาสตร์ยิ่งแย่กว่า เพราะโมเดลมีตัวเลือกคำทดแทนให้ฝังรูปแบบน้อยกว่า
ข้อจำกัดที่ระบุไว้ตรงไปตรงมา การไม่พบลายน้ำไม่ได้พิสูจน์ว่าเขียนโดยมนุษย์ การตรวจพบลายน้ำก็ไม่ได้บอกว่าเป็นบัญชีใด พรอมต์ใด หรือบทสนทนาใดที่สร้างข้อความนั้นขึ้นมา และไม่สามารถวัดได้ว่าเอกสารฉบับสุดท้ายถูกเขียนหรือแก้ไขโดยมนุษย์มากน้อยแค่ไหน สำหรับธุรกิจแล้ว ลายน้ำเป็นสัญญาณที่อ่อนมากอย่างดีที่สุด มีประโยชน์ในการจับเนื้อหา AI จำนวนมากที่ยังไม่ผ่านการแก้ไข แต่ไม่ใช่สิ่งที่พึ่งพาได้สำหรับการตรวจสอบการปฏิบัติตามกฎระเบียบ คดีความด้านจริยธรรมวิชาการ หรือข้อพิพาททางกฎหมายเรื่องความเป็นผู้ประพันธ์
เรื่องนี้หมายความว่าอย่างไรสำหรับบริษัทของคุณ
แม้ธุรกิจของคุณจะไม่ได้อยู่ในสหภาพยุโรป แต่มีสามกลุ่มที่ควรให้ความสนใจตั้งแต่ตอนนี้
- บริษัทที่มีลูกค้า พนักงาน หรือคู่ค้าในสหภาพยุโรป หากทีมซัพพอร์ต ทีมการตลาด หรือนักพัฒนาของคุณใช้เครื่องมือเหล่านี้ และขั้นตอนทำงานนั้นเกี่ยวข้องกับสหภาพยุโรปไม่ว่าทางใด ลายน้ำก็ใช้งานอยู่แล้วกับส่วนหนึ่งของปริมาณการใช้งานของคุณ ควรตรวจสอบเงื่อนไขของผู้ให้บริการว่ามีอะไรเปลี่ยนแปลงสำหรับคุณบ้าง
- บริษัทที่พัฒนาโปรดักต์บน API ของ AI สร้างข้อความ หากผลิตภัณฑ์ของคุณสร้างข้อความให้ผู้ใช้ปลายทาง ตอนนี้คุณสามารถเลือกเปิดใช้งานผลลัพธ์แบบมีลายน้ำได้ ควรพิจารณาว่าการเปิดใช้งานนี้ช่วยให้คุณปฏิบัติตามข้อกำหนดการเปิดเผยเนื้อหา AI ในตลาดที่กำหนดให้ต้องติดป้ายกำกับหรือไม่ และบันทึกการตัดสินใจนั้นไว้เป็นลายลักษณ์อักษร
- ทุกองค์กรที่พึ่งพาการตรวจจับเนื้อหาเพื่อบังคับใช้นโยบาย ไม่ว่าจะเป็นทีม HR ที่คัดกรองใบสมัครงาน โรงเรียนที่ตรวจงานนักเรียน หรือสำนักพิมพ์ที่ตรวจต้นฉบับ ไม่ควรถือว่าการไม่พบลายน้ำเป็นหลักฐานยืนยันว่าเอกสารนั้นเขียนโดยมนุษย์ อัตราการตรวจพลาดหลังการแก้ไขเพียงเล็กน้อยสูงเกินกว่าจะเชื่อถือได้ขนาดนั้น
หากองค์กรของคุณกำลังร่างนโยบายการใช้งาน AI ภายใน ควรเพิ่มขั้นตอนการตรวจทานโดยมนุษย์ ควรเพิ่มข้อกำหนดการเปิดเผยที่ชัดเจนสำหรับพนักงานด้วย ควบคู่ไปกับการอ้างอิงลายน้ำ แทนที่จะพึ่งพาการตรวจจับอัตโนมัติเพียงอย่างเดียว ทีมบริการด้านความปลอดภัยไซเบอร์ของเราวางนโยบายลักษณะนี้ควบคู่ไปกับการควบคุมทางเทคนิค เพราะเอกสารนโยบายกับเครื่องมือที่ใช้จริงต้องสอดคล้องกัน
ขั้นตอนปฏิบัติสำหรับทีม IT และทีมกำกับดูแล
รายการตรวจสอบสั้น ๆ ได้ผลดีกว่าเอกสารนโยบายยาวที่ไม่มีใครอ่าน
| ขั้นตอน | เหตุผลที่สำคัญ |
|---|---|
| สำรวจว่าข้อความที่สร้างจาก AI ถูกใช้ที่ไหนในงานที่ลูกค้ามองเห็น | คุณไม่สามารถกำกับดูแลสิ่งที่ยังไม่ได้สำรวจแผนผัง |
| ตรวจสอบว่าเกี่ยวข้องกับผู้ใช้หรือข้อมูลในสหภาพยุโรปหรือไม่ | เพื่อระบุว่าลายน้ำอัตโนมัติมีผลกับคุณแล้วหรือยัง |
| เพิ่มเงื่อนไขการเปิดเผยในนโยบายการใช้ AI ไม่ใช่แค่อ้างการตรวจจับ | การตรวจจับลายน้ำยังไม่น่าเชื่อถือพอที่จะยืนอยู่ลำพัง |
| กำหนดให้มีการตรวจทานโดยมนุษย์ก่อนเผยแพร่เอกสารกฎหมาย การเงิน หรือการปฏิบัติตามกฎระเบียบที่ร่างโดย AI | สอดคล้องกับเจตนารมณ์ของ EU AI Act โดยไม่ต้องพึ่งความน่าเชื่อถือของลายน้ำ |
| ตรวจสอบเงื่อนไขผู้ให้บริการใหม่ทุกไตรมาส | นี่เป็นการเปิดใช้งานระดับภูมิภาคที่มีสัญญาณว่าอาจเปลี่ยนแปลงได้ |
หากทีมของคุณกำลังสร้างเครื่องมือภายในหรือผลิตภัณฑ์สำหรับลูกค้าโดยใช้โมเดล AI สร้างข้อความเป็นฐาน นี่เป็นจังหวะที่ดีในการทบทวนวิธีจัดการการเชื่อมต่อระบบผ่าน API ลองสำรวจดูว่าเนื้อหาที่สร้างขึ้นเข้าสู่ระบบบันทึกข้อมูลหลักของคุณที่จุดใดบ้าง ไม่ว่าจะเป็นบันทึกใน CRM ตั๋วซัพพอร์ต หรือสัญญา
ข้อจำกัดที่ต้องมองให้ชัด
ข้อจำกัดที่ตรงไปตรงมาในที่นี้ไม่ใช่แค่เรื่องเทคนิค แต่เป็นเรื่องการใช้งานจริง ลายน้ำช่วยให้แพลตฟอร์มตรวจจับเนื้อหา AI จำนวนมากที่ยังไม่ผ่านการแก้ไขในระดับขนาดใหญ่ได้ ซึ่งมีประโยชน์จริงสำหรับงานกลั่นกรองเนื้อหา แต่มันไม่ได้ถูกออกแบบมาเป็นหลักฐานยืนยันความเป็นผู้ประพันธ์ และไม่ควรถูกนำเสนอแบบนั้นสำหรับเอกสารฉบับใดฉบับหนึ่งที่ธุรกิจให้ความสำคัญ บริษัทใดก็ตามที่สร้างกระบวนการปฏิบัติตามกฎระเบียบโดยตั้งสมมติฐานตรงกันข้าม กำลังวางตัวเองให้เผชิญกับการตรวจสอบที่ปกป้องตัวเองไม่ได้ ควรมองลายน้ำเป็นเพียงสัญญาณอ่อนหนึ่งในหลายสัญญาณ ไม่ใช่ระบบยืนยันความจริง
สำหรับธุรกิจที่ใช้ Odoo ควบคู่กับเครื่องมือ AI หลักการเดียวกันนี้ใช้ได้กับขั้นตอนการทำงานที่มี AI ช่วยภายในระบบ ERP เองด้วย หากคุณกำลังประเมินว่า generative AI ควรเข้ามามีบทบาทตรงไหนในการดำเนินงานของคุณ ทีมบริการพัฒนา AI และ MLของเราช่วยอธิบายขอบเขตที่เป็นจริง ก่อนที่คุณจะทุ่มงบประมาณไปกับกระบวนการที่พึ่งพาการตรวจจับเพียงอย่างเดียว
