Vنقش هوش مصنوعی در دموکراسی چیست؟ آیا این فقط یک آتشفشان از جعلیات عمیق و اطلاعات غلط است؟ آیا می تواند – همانطور که بسیاری از فعالان و حتی آزمایشگاه های هوش مصنوعی شرط بندی می کنند – به اصلاح یک سیستم سیاسی بیمار و پیر کمک کند؟ به نظر می رسد دولت بریتانیا که دوست دارد نزدیک به خونریزی هوش مصنوعی به نظر برسد، معتقد است که این فناوری می تواند دموکراسی بریتانیا را تقویت کند. دنیایی را پیش‌بینی می‌کند که در آن LLMهای ارسالی مشاوره‌های عمومی را محدود و تجزیه و تحلیل می‌کنند، گزارش‌های وزیران و شاید حتی پیش‌نویس قوانین را آماده می‌کنند. آیا این یک ابتکار صحیح توسط یک دولت متبحر از فناوری است؟ یا این فقط راهی برای سرپوش گذاشتن بر کاهش خدمات ملکی به ضرر دموکراسی است؟
LLM ها، پارادایم هوش مصنوعی که از زمان راه اندازی ChatGPT در سال 2022 طوفان جهان را به خود اختصاص داده است، به طور خاص برای خلاصه کردن و پردازش اطلاعات آموزش دیده اند. و اکنون آنها می توانند صدها، حتی هزاران صفحه متن را همزمان پردازش کنند. در همین حال، دولت بریتانیا سالانه حدود 700 مشاوره عمومی برگزار می کند. بنابراین کاربرد آشکار LLM کمک به تجزیه و تحلیل و خلاصه کردن هزاران صفحه از مطالبی است که آنها در پاسخ به هر یک دریافت می کنند. متأسفانه، در حالی که استادان در خلاصه‌سازی ایمیل‌ها یا مقالات روزنامه‌های مجزا برتری دارند، اما هنوز راه زیادی در پیش دارند تا جایگزین مناسبی برای کارمندان دولتی در تجزیه و تحلیل مشاوره‌های عمومی باشند.
اولین مشکل این است که وقتی مشاوره عمومی انجام می دهید، می خواهید بدانید که مردم چه فکر می کنند، نه اینکه از LLM بشنوید. در مطالعه دقیق خود در مورد استفاده از LLM برای تجزیه و تحلیل برنامه های کاربردی برای مشاوره عمومی ایالات متحده در مورد خط مشی هوش مصنوعی، محققان در استارتاپ هوش مصنوعی Imbue دریافتند که رزومه های LLM اغلب معنای آنچه را که رزومه می کنند تغییر می دهد. به عنوان مثال، در خلاصه کردن برنامه Google، LLM به درستی پشتیبانی خود را از مقررات شناسایی کرد، اما آنچه را که به طور خاص پشتیبانی می کرد حذف کرد. خطر مقررات – شکل محدودی از مقررات که شامل استفاده از هوش مصنوعی است و هدف آن کاهش آسیب ناشی از آن است. مشکلات مشابه زمانی به وجود می‌آیند که از مدل‌ها خواسته می‌شود ایده‌های موجود در کل مطالبی را که خلاصه می‌کنند ترکیب کنند. و حتی تواناترین دانشجویان فارغ التحصیل، که با حجم بسیار زیاد متن کار می کنند، می توانند بسازند – یعنی چیزی را بسازند که در منبع نبود.
مشکل دوم: وقتی نظر عمومی را می‌پرسید، می‌خواهید مطمئن باشید که واقعاً خواهید شنید هر کس. در هر تلاشی برای استفاده از بینش یک جمعیت بزرگ – چیزی که برخی آن را هوش جمعی می نامند – شما باید نه تنها نسبت به نقاط توافق، بلکه همچنین نسبت به اختلاف نظرها و به ویژه انحرافات هوشیار باشید. به بیان ساده، بیشتر مواد در موضوعات مشابه همگرا می شوند. برخی از آنها بینش فوق العاده ای ارائه می دهند.
LLM ها می توانند “مرکز جرم” مشاهدات با فرکانس بالا را نشان دهند. اما آنها هنوز هم در ضبط محتوای با سیگنال بالا و فرکانس پایین، جایی که بخش قابل توجهی از این مشاوره ها ممکن است باشد، به همان اندازه خوب نیستند (و آن را از محتوای با فرکانس پایین و سیگنال پایین متمایز می کنند). و در واقع، شما احتمالا می توانید آن را برای خودتان بررسی کنید. دفعه بعد که در حال خرید چیزی در آمازون هستید، نگاهی گذرا به خلاصه بررسی ایجاد شده توسط هوش مصنوعی بیندازید. اساساً فقط به بیان چیزهای بدیهی است. اگر واقعاً می‌خواهید بدانید که آیا محصول ارزش خرید دارد یا خیر، باید به بررسی‌های یک ستاره نگاه کنید (و کسانی را که شکایت داشتند که روز بدی را هنگام رسیدن بسته سپری کرده‌اند را فیلتر کنید).
البته، این واقعیت که دانشجویان فارغ التحصیل در یک کار ضعیف عمل می کنند به این معنی نیست که آنها همیشه این کار را انجام خواهند داد. اینها ممکن است مشکلات قابل حل باشند، حتی اگر هنوز حل نشده باشند. و بدیهی است که اهمیت هر یک از اینها بستگی به تلاش شما برای انجام آن دارد. منظور از مشاوره عمومی چیست و چرا می خواهید از LLM برای پشتیبانی از آن استفاده کنید؟ اگر فکر می کنید که مشاوره عمومی اساساً عملکردی است – نوعی مشارکت بی ربط و بی ربط – شاید مهم نباشد که وزرا خلاصه های تولید شده توسط هوش مصنوعی را دریافت کنند که بینشگرانه ترین دیدگاه های مردم را کنار بگذارند و چند کلمه محبت آمیز به آن اضافه کنند. هوش بجای. اگر این فقط بوروکراسی بیهوده است، چرا آن را خودکار نکنیم؟ واقعاً، اگر فقط از هوش مصنوعی برای کاهش اندازه دولت استفاده می‌کنید، چرا به جای مراجعه به مردم، واسطه‌ها را کنار نمی‌گذارید و مستقیماً از LLM ها سؤال نمی‌کنید؟
اما شاید برخلاف معاون نخست‌وزیر بریتانیا، محققانی که چشم‌انداز هوش مصنوعی برای دموکراسی را مطالعه می‌کنند، معتقدند که LLM باید یکپارچگی عمیق‌تر بین مردم و دولت ایجاد کند، نه فقط لایه دیگری از بوروکراسی خودکار که به‌طور غیرقابل اعتمادی افکار عمومی را فیلتر و انتقال می‌دهد. گذشته از همه اینها، دموکراسی اساساً یک رویه ارتباطی است: چه از طریق مشورت عمومی، از طریق رأی دادن ما، یا از طریق بحث و اختلاف در حوزه عمومی، ارتباط به این معناست که مردم چگونه نمایندگان خود را تحت کنترل خود نگه می دارند. و اگر واقعاً به دموکراسی ارتباطی اهمیت می دهید، احتمالاً معتقدید که همه و فقط کسانی که حق صحبت دارند، باید حق صحبت داشته باشند و مشورت عمومی برای حل مؤثر مسائل پیچیده ضروری است.
اگر راهنمای شما این است، گرایش LLM به اجتناب از نکات ظریف و ساختن اطلاعات خلاصه خود، و همچنین نادیده گرفتن ورودی‌های با فرکانس پایین اما با مشخصات بالا، باید دلیل کافی برای کنار گذاشتن آنها در حال حاضر برای دموکراسی خطرناک باشد. .