به گزارش گروه اجتماعی پایگاه خبری تحلیلی «شیرازه»، هوش مصنوعی آرام و بی‌سر و صدا در حال ورود به تصمیم‌های مهم عمومی است؛ از تخصیص خدمات و یارانه‌ها تا رتبه‌بندی، نظارت و مدیریت منابع حیاتی. این تحول اگرچه ظرفیت بالایی برای افزایش کارایی و کاهش فساد دارد، اما یک پرسش بنیادین را پیش می‌کشد: وقتی تصمیم توسط الگوریتم گرفته می‌شود، مسئولیت نهایی آن بر عهده چه کسی است؟

مسئله اصلی هوش مصنوعی در حکمرانی، خطای فنی یا ضعف داده نیست. خطر واقعی از جایی آغاز می‌شود که قدرت تصمیم‌گیری از مسئولیت‌پذیری جدا شود. در چنین شرایطی، شهروند با تصمیمی مواجه می‌شود که نه منطق آن شفاف است و نه مسیر اعتراض مؤثری دارد.

اگر پاسخ آشنای «سیستم این‌گونه تشخیص داده» به یک قاعده عمومی بدل شود، بنیان اعتماد عمومی و مشروعیت نهادهای اداری را به طور جدی تضعیف می‌کند.

تجربه جهانی نشان می‌دهد که پذیرش اجتماعی تصمیم‌ها بیش از آنکه به دقت و سرعت ماشین وابسته باشد، به شفافیت، عدالت رویه‌ای و امکان پاسخ‌خواهی گره خورده است. حتی بهترین و سریع‌ترین تصمیم‌ها، اگر غیرقابل توضیح و غیرقابل اعتراض باشند، در چشم مردم مشروعیت خود را از دست می‌دهند.

در ایران، چالش اصلی در حوزه حکمرانی هوش مصنوعی کمبود فناوری نیست؛ مسئله، فقدان یک چارچوب روشن اخلاقی و حقوقی برای حکمرانی الگوریتمی است. ورود شتاب‌زده فناوری به ساختارهای اداری، بدون تعریف دقیق زنجیره مسئولیت انسانی، می‌تواند احساس بی‌صدایی، نابرابری و بی‌اعتمادی را در میان شهروندان به‌سرعت تشدید کند.