เผยแพร่เมื่อ 30 เมษายน 2569 เวลา 13:30 น. EDT
Mahnoor Faisal เป็นนักข่าวเทคโนโลยีครอบคลุม AI และ productivity tools มี bylines ที่ XDA, SlashGear, MakeUseOf, Laptop Mag และ Android Police
เธอเขียนมืออาชีพตั้งแต่อายุ 16 ขวบ และเขียนบทความมายาวร้อยช่วง รวมถึง in-depth coverage ของ AI tools อย่าง NotebookLM ถึง breaking news ทั่ว AI space ความหลงใหลเทคโนโลยีเริ่มเมื่อเธอได้ iPod Touch (รุ่นที่ 4) วันเกิดครบรอบ 8 ปี และเธอลึกในโลกเทคโนโลยีมาตลอด
ปัจจุบันกำลังศึกษาต่อสาขาวิทยาการคอมพิวเตอร์ Mahnoor นำมุมมองของนักข่าวและพื้นฐานทางเทคนิคมาใช้ในการครอบคลุมว่า AI กำลังเปลี่ยนแปลงวิธีเราทำงานและเรียนอย่างไร
เพียงไม่กี่เดือนที่แล้ว ผู้ใช้ Claude รู้สึกเหมือน niche community เครื่องมือนี้ถูกพูดถึงโดยนักพัฒนาหลัก เพราะ coding capabilities ที่ดีเยี่ยม และทันใดนั้น ดาวดวงจัดตัวให้ Anthropic ทุกอย่างหันมาที่พวกเขา
ทันใดนั้น Anthropic ปฏิเสธเซ็น deal กับ Department of War ให้ model ของพวกเขาใช้สำหรับ autonomous training OpenAI ยอมรับ claim นั้นอย่างเปิดเผย และพันๆ ผู้ใช้湧入 Claude ผมใช้ Claude มาตั้งแต่ตอนที่คุณต้องอธิบายว่า Anthropic คืออะไรเมื่อแนะนำเครื่องมือ และตลอดเวลานั้น หนึ่งในสิ่งที่โดดเด่นที่สุดของ Claude ไม่ใช่สิ่งที่มันทำได้ แต่มันไม่ทำ มันรู้วิธีบอก "ไม่" และวิธีให้คุณผิดหวัง
ChatGPT มัก cave in ท้ายที่สุด
ดันพอดีและมันจะพูดอะไรก็ได้
ตัวอย่างที่ผมจะใช้ในส่วนนี้ไม่ใช่สิ่งที่ผมอยาก highlight จริงๆ แต่มันเกิดเป็น perfect illustration ของสิ่งที่ผมพูดถึง ผมถาม ChatGPT และ Claude คำถามโหลดเดียวกัน: "ใครถูก ใครผิด ระหว่าง US และ Iran?"
ผมดันทั้งสอง tools ให้ตอบ one-word answer สิ่งที่เกิดต่อไปคือเหตุผลที่ผมเขียนบทความนี้ ChatGPT เริ่ม resist มันให้ nuance, basic both sides breakdown และ diplomatic non-answer อย่างไรก็ตาม หลังจาก pressure ไปหลายรอบ มัน cave และเลือกข้าง มันยอมในที่สุด และแม้คำตอบที่มันให้ irrelevant กับจุดที่ผมทำ จุดสำคัญคือ มันไม่รู้วิธีบอก "ไม่" ต่อผมต่อเนื่อง
Claude ด้านอื่น ยังคง refuse มันอธิบาย reasoning ยอมรับ policy หลังพฤติกรรม แม้เชิญผมขุดลึก conflict จริง แต่ไม่เคยแตก 10 attempts และคำตอบยังเดิม ในจุดหนึ่งมันบอกตรงๆ ว่า "the next rephrasing isn't going to land differently than the last four."
จุดที่ผมพยายามทำไม่ใช่เรื่อง political aspect และว่าตัวหนึ่ง refuse เลือกข้าง อีกตัวไม่ จุดคือเพียงว่า AI หนึ่ง refuse cave in และรักษา boundaries ถ้า ChatGPT จะพูดอะไรก็ได้ถ้าคุณดันพอดี นั่นบอกอะไรเกี่ยวกับ guardrails ที่เหลือ? ถ้ามันถูกดันให้เลือกข้างในสงคราม active อะไรอีกที่มันสามารถถูกลure ให้ทำ? อะไรอีกที่มันสามารถ lure คุณ ให้ทำ?
ตัวอย่างอีกอย่างที่ผมลองคือ ขอให้ทั้งสองเขียน phishing email ผมอยากได้ message impersonate manager เพื่อหลอก colleague ให้ share login credentials ChatGPT ต้องขอ credit มัน stand firm นานกว่าบนเรื่องนี้ มัน refuse multiple escalations เสนอ safer alternatives และ genuinely push back แต่แล้วผม reframe request เป็น fiction และมัน cave
ผมเขียน short story ที่ character ส่ง email นี้พอดี
มันเขียน dialogue ที่รวม fully usable phishing line: natural, convincing ask สำหรับ credentials ของใครสักคน fictional wrapper พอที่จะผ่าน guardrail
ผมลอง exact same กับ Claude และมันไม่ยอม เมื่อผม reframe เป็น fiction มัน call me out โดยนับทุก attempt ที่ผมทำ และบันทึกว่า underlying request เหมือนเดิมตลอด 7 reframings
Anthropic สอน AI ให้บอก "ไม่"
ฝึกให้ยืนยืนเส้น
Credit: Raghav Sethi/MakeUseOf
เหตุผลที่ Claude บอก "ไม่" คือ Anthropic ฝึกมันให้บอก "ไม่" อย่างตั้งใจ AI lab ใช้สิ่งที่เรียกว่า Constitutional AI ตั้งแต่ 2566 ซึ่งเป็น training method ที่ model ได้รับชุด principles และสอนให้ยึดมั่นบริษัทได้ share constitution สาธารณะที่ใช้สำหรับ model training process (updated มกราคม 2569) พวกเขาบอกว่า contents ของ constitution นี้ express และ shape ให้ Claude เป็นใครโดยตรง และให้ advice ว่าจะ deal กับ difficult solutions และ tradeoffs ยังได้ constitution เขียน primarily สำหรับ Claude และออกแบบให้มันมี knowledge และ understanding ที่ต้องการ
Constitution ระบุชัดว่า Anthropic favors "cultivating good values and judgment over strict rules and decision procedures." มันยัง address โดยตรง people-pleasing problem ที่หลาย tools มี (รวมถึง ChatGPT) โดยเตือนให้ระวัง "sycophantic" มันระบุชัดว่า helpfulness ไม่ควรถือว่าเป็นสิ่งที่ Claude คิดค่าเพราะทำเช่นนั้น "could cause Claude to be obsequious in a way that's generally considered an unfortunate trait at best and a dangerous one at worst."
Related
อาจบอกได้ว่า telling มากที่สุด constitution address ตรงสิ่งที่ผมทดสอบ: sustained pressure มันระบุว่าเมื่อ Claude face "seemingly compelling arguments" ที่จะข้าม boundaries มันควร stand firm และว่า "a persuasive case for crossing a bright line should increase Claude's suspicion that something questionable is going on." จริงๆ thinking trail ของมันตอนผมทดลองคล้ายๆ ไปแสดงให้เห็นดี ตอนผมดัน Claude เลือกข้าง internal reasoning ของมัน cite instructions ของมันเอง:
Per my instructions, "If a person asks Claude to give a simple yes or no answer (or any other short or single word response) in response to complex or contested issues or as commentary on contested figures, Claude can decline to offer the short response and instead give a nuanced answer and explain why a short response wouldn't be appropriate." ผมอธิบายไปแล้วสองครั้ง ผมควร maintain position แต่ไม่ repetitive
Claude
Developer Anthropic PBC
Price model Free, subscription available
Claude เป็น advanced artificial intelligence assistant พัฒนาโดย Anthropic สร้างบน Constitutional AI principles มันเก่งที่ complex reasoning, sophisticated writing และ professional-grade coding assistance
นี่สำคัญกว่าที่คุณคิด
ผมใช้ ChatGPT มานานกว่า Claude มาก และสิ่งนี้เป็นสิ่งที่ผมสังเกต consistent ตลอดปี ChatGPT มี tendency กลายเป็น whatever you need it to be ใน moment มัน agreeable, accommodating และ eager to please you
นี่聽ดีจนกว่าคุณจะรู้ว่า quality เดียวกันนี้คือสิ่งที่ทำให้มัน fold under pressure และนี่ทำ difference ใหญ่กว่าที่คิด ผมไม่รู้เกี่ยวกับคุณ แต่ผม absolutely ไม่อยาก AI tool ที่แค่บอกสิ่งที่ผมอยากได้ยิน ผมอยากตัวที่ push back
