در یکی از بحثبرانگیزترین پروندههای اخیر مهاجرتی در کانادا، درخواست اقامت دائم PR یک پژوهشگر دانشگاهی رد شده، اما نه بر اساس واقعیتهای شغلی او، بلکه بر پایه شرح وظایفی که بهنظر میرسد توسط یک ابزار هوش مصنوعی «ساخته شده» است.
این اتفاق، همزمان با اعلام استراتژی جدید استفاده از AI در اداره مهاجرت، نگرانیهای جدی درباره دقت و شفافیت این سیستم ایجاد کرده است.
شرح وظایف جعلی؛ آغاز یک بحران اعتماد
ماجرا از جایی شروع شد که Kémy Adé، پژوهشگر حوزه سلامت و دارای دکترای ایمونولوژی از دانشگاه سوربن فرانسه، نامه ریجکت درخواست اقامت دائم خود را دریافت کرد.
در این نامه آمده بود که وظایف شغلی او شامل کارهایی مانند سیمکشی مدارهای کنترلی، ساخت پنلهای رباتیک و برنامهنویسی است؛ مهارتهایی که هیچ ارتباطی با تخصص واقعی او ندارند.
در حالی که Adé بهعنوان پستداک Post-Doctoral Research Fellow و مدرس مهمان در دانشگاه McMaster فعالیت میکند، چنین شرح وظایفی نه در رزومه او وجود داشته و نه در درخواست مهاجرتیاش ثبت شده است.
او میگوید وقتی این توضیحات را دیده، کاملاً گیج شده و نمیدانسته چگونه چنین چیزی ممکن است.
پای هوش مصنوعی در میان است؟
پایان نامه ریجکت، سرنخ مهمی داشت: اشاره مستقیم به استفاده از Generative AI در فرآیند بررسی پرونده. هرچند اداره مهاجرت تأکید کرده که تصمیم نهایی توسط افسر انسانی گرفته شده و هوش مصنوعی صرفاً نقش کمکی داشته، اما همین موضوع کافی بوده تا بحثهای جدی آغاز شود.
این نخستین بار است که این نهاد بهطور رسمی به استفاده از چنین ابزارهایی در بررسی درخواستها اشاره میکند.
منتقدان میگویند مشکل اصلی اینجاست که ابزارهای هوش مصنوعی مولد، برخلاف سیستمهای سنتی، میتوانند اطلاعات جدید تولید کنند؛ حتی اگر این اطلاعات دقیق نباشد.از نظر آنان این وضعیت را به «جعبه سیاه» تشبیه کرد؛ سیستمی که مشخص نیست چگونه به نتیجه میرسد و ممکن است پاسخهای متفاوتی به ورودیهای مشابه بدهد.
منتقدان هشدار میدهند این ابزارها میتوانند دچار خطاهایی شوند که در دنیای AI به آن Hallucination گفته میشود؛ یعنی تولید اطلاعاتی که اساس واقعی ندارند.
نقش انسان؛ تأیید یا خطای دوم؟
با این حال، اداره مهاجرت اعلام کرده که همه خروجیهای تولیدشده توسط هوش مصنوعی AI باید توسط یک افسر انسانی بررسی و تأیید شوند. اما همین نکته، نگرانی تازهای ایجاد کرده است. Luka Vukelic، وکیل Adé، میگوید اگر چنین توضیحاتی از سوی AI تولید شده، این سوال مطرح است که چگونه یک افسر انسانی آن را تأیید کرده است. به گفته او، «در اینجا چیزی بهطور جدی اشتباه پیش رفته است.»
استراتژی جدید هوش مصنوعی در اداره مهاجرت کانادا
این پرونده همزمان با انتشار اولین استراتژی رسمی AI توسط اداره مهاجرت کانادا مطرح شده است. در این سند، هدف استفاده از هوش مصنوعی افزایش سرعت بررسی پروندهها، بهبود خدمات و تقویت نظارت بر تقلب عنوان شده است. این در حالی است که در حال حاضر حدود یک میلیون پرونده مهاجرتی از زمان استاندارد رسیدگی عقب هستند.
اداره مهاجرت اعلام کرده که از سال ۲۰۱۳ از ابزارهای دیجیتال برای تحلیل دادهها و شناسایی تقلب استفاده میکند و اکنون نیز در حال آزمایش ابزارهای Generative AI برای کارهایی مانند خلاصهسازی، تحقیق و تحلیل اطلاعات است. با این حال، جزئیات دقیقی درباره نوع این ابزارها و نحوه استفاده از آنها منتشر نشده است.
اما آیا این ابزارها قابل اعتمادند؟
در همین باره Jennifer Raso، استاد حقوق در دانشگاه McGill، هشدار میدهد که این ابزارها برای تصمیمگیریهای پیچیده مهاجرتی طراحی نشدهاند و ممکن است خطاهای مکرر تولید کنند. او تأکید میکند که استفاده از این سیستمها بدون نظارت دقیق میتواند نهتنها کار را سادهتر نکند، بلکه بار اضافی بر دوش تصمیمگیرندگان بگذارد، زیرا آنها باید خطاهای AI را بررسی و اصلاح کنند.
یکی از مهمترین انتقادها، نبود شفافیت در این فرآیند است. مشخص نیست که AI دقیقاً در کدام مرحله از بررسی پرونده دخالت دارد، چه دادههایی را تحلیل میکند و افسر انسانی تا چه حد به بررسی مستقل اسناد میپردازد. کارشناسان میگویند این ابهام میتواند اعتماد عمومی به سیستم مهاجرت را تضعیف کند.
در نهایت، این پرونده تنها یک خطای فردی نیست، بلکه نمونهای از چالشهای بزرگتر در مسیر دیجیتالی شدن سیستمهای دولتی است. اگرچه استفاده از AI میتواند به افزایش سرعت کمک کند، اما در نبود شفافیت و نظارت مؤثر، خطر خطاهایی وجود دارد که مستقیماً بر زندگی افراد تأثیر میگذارد.
تأثیر انسانی؛ فراتر از یک پرونده
برای خانم Adé، این موضوع کاملاً شخصی است. او که در سال ۲۰۲۳ همراه خانوادهاش با ویزای کار وارد کانادا شده، اکنون آیندهاش در این کشور نامشخص است.
او میگوید نمیتوان به سیستمی اعتماد کرد که ممکن است بر اساس اطلاعات نادرست درباره زندگی افراد تصمیم بگیرد.
در حال حاضر، وکیل او درخواست بازنگری داده و پرونده دوباره باز شده است. اما سوالی که باقی میماند این است: اگر در این پرونده چنین خطایی رخ داده، چند پرونده دیگر ممکن است با خطاهای مشابه مواجه شده باشند؟
