Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

GPT-6 Astra แก้ไข Qwen3.5-0.8B ได้อย่างไร ด้วยการแก้ไขน้ำหนักโมเดลเพียง 0.016%

Description and use

<h1> GPT-6 Astra แก้ไข Qwen3.5-0.8B ได้อย่างไร ด้วยการแก้ไขน้ำหนักโมเดลเพียง 0.016% </h1> <p>GPT-6 Astra ยกระดับคะแนน MATH-500 ของ Qwen3.5-0.8B จาก 7.9% เป็น 48.1% โดยไม่ต้องฝึกโมเดลเลย มันอ่านค่าน้ำหนัก (weights) ของโมเดล ค้นพบหนึ่งทิศทางที่ทำให้โมเดลวนซ้ำในการคิด แล้วลบทิศทางนั้นออกจากชั้น MLP สองชั้น การแก้ไขนั้นแตะค่าน้ำหนัก 131,072 ค่า คิดเป็น 0.016% ของโมเดล ตัวเลขเหล่านี้มาจากโพสต์วันที่ 2 พฤศจิกายนของนักวิจัยสี่คนจาก MIT CSAIL และโมเดลที่แก้ไขแล้วเปิดเผยต่อสาธารณะ คุณจึงตรวจสอบข้อกล่าวอ้างนี้ได้ด้วยตัวเอง</p> <p><a href="https://apidog.com/?utm_source=dev.to&amp;utm_medium=wanda&amp;ut

Problem

<h1> GPT-6 Astra แก้ไข Qwen3.5-0.8B ได้อย่างไร ด้วยการแก้ไขน้ำหนักโมเดลเพียง 0.016% </h1> <p>GPT-6 Astra ยกระดับคะแนน MATH-500 ของ Qwen3.5-0.8B จาก 7.9% เป็น 48.1% โดยไม่ต้องฝึกโมเดลเลย มันอ่านค่าน้ำหนัก (weights) ของโมเดล ค้นพบหนึ่งทิศทางที่ทำให้โมเดลวนซ้ำในการคิด แล้วลบทิศทางนั้นออกจากชั้น MLP สองชั้น การแก้ไขนั้นแตะค่าน้ำหนัก 131,072 ค่า คิดเป็น 0.016% ของโมเดล ตัวเลขเหล่านี้มาจากโพสต์วันที่ 2 พฤศจิกายนของนักวิจัยสี่คนจาก MIT CSAIL และโมเดลที่แก้ไขแล้วเปิดเผยต่อสาธารณะ คุณจึงตรวจสอบข้อกล่าวอ้างนี้ได้ด้วยตัวเอง</p> <p><a href="https://apidog.com/?utm_source=dev.to&amp;utm_medium=wanda&amp;ut

Outcome

<h1> GPT-6 Astra แก้ไข Qwen3.5-0.8B ได้อย่างไร ด้วยการแก้ไขน้ำหนักโมเดลเพียง 0.016% </h1> <p>GPT-6 Astra ยกระดับคะแนน MATH-500 ของ Qwen3.5-0.8B จาก 7.9% เป็น 48.1% โดยไม่ต้องฝึกโมเดลเลย มันอ่านค่าน้ำหนัก (weights) ของโมเดล ค้นพบหนึ่งทิศทางที่ทำให้โมเดลวนซ้ำในการคิด แล้วลบทิศทางนั้นออกจากชั้น MLP สองชั้น การแก้ไขนั้นแตะค่าน้ำหนัก 131,072 ค่า คิดเป็น 0.016% ของโมเดล ตัวเลขเหล่านี้มาจากโพสต์วันที่ 2 พฤศจิกายนของนักวิจัยสี่คนจาก MIT CSAIL และโมเดลที่แก้ไขแล้วเปิดเผยต่อสาธารณะ คุณจึงตรวจสอบข้อกล่าวอ้างนี้ได้ด้วยตัวเอง</p> <p><a href="https://apidog.com/?utm_source=dev.to&amp;utm_medium=wanda&amp;ut

Evidence

GPT-6 Astra แก้ไข Qwen3.5-0.8B ได้อย่างไร ด้วยการแก้ไขน้ำหนักโมเดลเพียง 0.016%

Source

  • Record date: 2026-11-04T04:14:09.232Z