از ابهام تا شفافیت: بازیابی و تزریق دانش آگاه از ابهام برای دسته‌بندی متن

علم کامپیوتر > محاسبات و زبان arXiv:2609.01564v1 (cs) [ارسال شده در ۱ سپتامبر ۲۰۲۶] عنوان: از سردرگمی تا وضوح: بازیابی آگاه از ابهام و تزریق دانش برای طبقه‌بندی متن نویسندگان: مانیش گوپتا، چایتانیا گیری، جایاسیها تالور مشاهده نسخه PDF این مقاله با عنوان From Confusion to Clarity: Confusion-Aware Retrieval and Knowledge Injection for Text Classification، نوشته مانیش گوپتا و ۲ نویسنده دیگر مشاهده PDF HTML (آزمایشی) چکیده: مدل‌های زبانی بزرگ (LLMها) در طبقه‌بندی متن، زمانی که با برچسب‌هایی با تشابه معنایی بالا مواجه می‌شوند، با مشکل مواجه می‌شوند؛ زیرا تمایزات میان این برچسب‌ها حوزه‌-محور است و در فرآیند پیش‌آموزش به آن‌ها آموزش داده نشده است. برای مدیریت فضاهای برچسبی بزرگ، یک رویکرد رایج، برچسب‌های کاندید بالا-K را از طریق شباهت تعبیه بازیابی می‌کند و از LLM می‌خواهد تا از میان آنها انتخاب کند. با این حال، بازیابی بالا-K تعداد کاندیدها را کاهش می‌دهد، اما به مدل کمکی در تشخیص موارد مشابه از یکدیگر نمی‌کند. زمانی که دو برچسب مشابه هر دو به عنوان کاندید ظاهر می‌شوند، مدل فاقد سیگنال لازم برای انتخاب صحیح میان آنهاست. ما چارچوبی پیشنهاد می‌دهیم که (۱) شناسایی می‌کند کدام جفت‌های برچسب، مدل در تمایز آنها مشکل دارد، (۲) مجموعه کاندیدها را برای شامل کردن برچسب‌های سردرگم‌کننده گسترش می‌دهد، و (۳) قوانین هدفمندی برای تمایز بین کاندیدهای مشابه تولید می‌کند. این چارچوب نیازی به تنظیم دقیق ندارد و قوانین تولید شده به مدل‌های کوچک‌تر و ارزان‌تر قابل انتقال هستند. در سه معیار (WOS، Flipkart، LEDGAR)، رویکرد ما معیار Macro F1 را تا ۱۰٫۰ نقطه درصد نسبت به خطوط پایه بازیابی بهبود می‌دهد و به مدل‌های کوچک‌تر (۲ تا ۲۰ میلیارد پارامتر) امکان می‌دهد تا از طریق انتقال بین‌مدلی تا ۱۱٫۵ نقطه درصد بهبود دست یابند. نظرات: موضوعات: محاسبات و زبان (cs.CL)؛ هوش مصنوعی (cs.AI) استناد به: arXiv:2609.01564 [cs.CL] (یا arXiv:2609.01564v1 [cs.CL] برای این نسخه) https://doi.org/10.48550/arXiv.2609.01564 تاریخچه ارسال از: جایاسیها تالور [مشاهده ایمیل] [v1] سه‌شنبه، ۱ سپتامبر ۲۰۲۶ ۱۷:۳۱:۰۲ UTC (۱٬۵۴۱ کیلوبایت) ابزارهای کتابشناختی ابزارهای کتابشناختی و استنادی Bibliographic Explorer جابجایی Bibliographic Explorer (اکسپلورر چیست؟) Connected Papers جابجایی Connected Papers (Connected Papers چیست؟) Litmaps جابجایی Litmaps (Litmaps چیست؟) scite.ai جابجایی scite Smart Citations (Smart Citations چیست؟) کد، داده‌ها، رسانه کد، داده‌ها و رسانه‌های مرتبط با این مقاله alphaXiv جابجایی alphaXiv (alphaXiv چیست؟) پیوندها به کد CatalyzeX Code Finder for Papers جابجایی (CatalyzeX چیست؟) DagsHub جابجایی DagsHub (DagsHub چیست؟) GotitPub جابجایی Gotit.pub (GotitPub چیست؟) Huggingface جابجایی Hugging Face (Huggingface چیست؟) ScienceCast جابجایی ScienceCast (ScienceCast چیست؟) دموها Replicate جابجایی Replicate (Replicate چیست؟) Spaces جابجایی Hugging Face Spaces (Spaces چیست؟) Spaces جابجایی TXYZ.AI (TXYZ.AI چیست؟) مقالات مرتبط توصیف‌کننده‌ها و ابزارهای جستجو پیوند به Influence Flower Influence Flower (Influence Flowers چیست؟) Core recommender جابجایی CORE Recommender (CORE Recommender چیست؟) نویسنده مجله نهاد موضوع درباره arXivLabs arXivLabs: پروژه‌های آزمایشی با همکاران جامعه arXivLabs چارچوبی است که به همکاران اجازه می‌دهد ویژگی‌های جدید arXiv را مستقیماً در وب‌سایت ما توسعه داده و به اشتراک بگذارند. افراد و سازمان‌هایی که با arXivLabs همکاری می‌کنند، ارزش‌های ما را در زمینه‌های شفافیت، جامعه‌محوری، برتری و حریم خصوصی داده‌های کاربران پذیرفته و به آن‌ها متعهد شده‌اند. arXiv به این ارزش‌ها پایبند است و تنها با شرکایی همکاری می‌کند که به آن‌ها پایبند باشند. آیا ایده‌ای برای پروژه‌ای دارید که برای جامعه arXiv ارزش‌افزایی کند؟ درباره arXivLabs بیشتر بدانید. کدام نویسندگان این مقاله تأییدکننده (endorser) هستند؟ | غیرفعال‌سازی MathJax (MathJax چیست؟)