به گزارش آژانس خبری حقیقت نگار، امروزه مدلهای زبانی و سیستمهای مولد هوش مصنوعی میتوانند در مدت کوتاهی حجم قابلتوجهی از اطلاعات را پردازش کنند، متن تولید کنند، کدنویسی انجام دهند، دادهها را تحلیل کنند، در آموزش و پژوهش به ما کمک کنند و حتی در برخی حوزههای تخصصی عملکردی نزدیک به سطح انسان داشته باشند. همین پیشرفتها باعث شده هوش مصنوعی از یک ابزار تخصصی، به فناوریای تبدیل شود که بهتدریج در بسیاری از تصمیمها و فعالیتهای روزمره ما حضور دارد.
اما توانایی بالا، به معنای درک، آگاهی یا صحت مطلق نیست.
یکی از مهمترین محدودیتهای مدلهای مولد، پدیدهای است که به آن توهم هوش مصنوعی (AI Hallucination) گفته میشود؛ یعنی سیستم میتواند پاسخی تولید کند که از نظر زبانی کاملاً منسجم، منطقی و حتی بسیار مطمئن به نظر برسد، اما بخشی یا تمام آن نادرست باشد. این موضوع نشان میدهد که روان و دقیق بودن یک پاسخ، لزوماً معادل درست بودن آن نیست.
از سوی دیگر، کیفیت دادههای آموزشی و سوگیری موجود در دادهها میتواند بر خروجی مدل تأثیر بگذارد. اگر دادهها دارای سوگیری، نقص یا نمایندگی نامتوازن از گروهها و دیدگاههای مختلف باشند، این مسائل ممکن است در رفتار سیستم نیز بازتاب پیدا کنند. بنابراین نمیتوان خروجی یک سیستم هوش مصنوعی را کاملاً مستقل از دادهها و فرایند آموزش آن در نظر گرفت.
موضوع مهم دیگر، حریم خصوصی و امنیت دادهها است. زمانی که اطلاعات شخصی، سازمانی، مالی، تحقیقاتی یا محرمانه را در اختیار یک سامانه هوش مصنوعی قرار میدهیم، باید بدانیم این دادهها چگونه پردازش میشوند، چه سیاستهایی برای نگهداری آنها وجود دارد و چه ریسکهایی ممکن است متوجه اطلاعات ما باشد. استفاده ناآگاهانه از AI میتواند در برخی شرایط، به یک مسئله امنیتی یا نقض حریم خصوصی تبدیل شود.
از منظر شناختی نیز یک مسئله جدی وجود دارد: وابستگی بیش از حد به هوش مصنوعی. اگر افراد به جای استفاده از AI بهعنوان یک ابزار کمکی، بخش عمده فرایند تفکر، تحلیل و تصمیمگیری خود را به آن واگذار کنند، ممکن است به مرور مهارتهایی مانند تفکر انتقادی، حل مسئله، ارزیابی منابع و تصمیمگیری مستقل تضعیف شود. هدف از استفاده از هوش مصنوعی نباید حذف تفکر انسانی باشد؛ بلکه باید افزایش توانایی انسان باشد.
در سطح اجتماعی و اقتصادی نیز نمیتوان تأثیر AI را نادیده گرفت. اتوماسیون برخی وظایف، تغییر ساختار مشاغل، جابهجایی مهارتهای موردنیاز، تغییر مدلهای کسبوکار و افزایش شکاف میان افرادی که توانایی استفاده مؤثر از این فناوری را دارند و افرادی که از آن محروماند، بخشی از پیامدهایی است که باید جدی گرفته شود.
از طرف دیگر، تولید محتوای مصنوعی، جعل تصویر و صدا، انتشار اطلاعات نادرست و امکان ایجاد محتوای بسیار متقاعدکننده، مسئله اعتماد به اطلاعات در عصر هوش مصنوعی را پیچیدهتر کرده است. در چنین شرایطی، مهارت راستیآزمایی و تشخیص منبع معتبر، بیش از گذشته اهمیت پیدا میکند.
به همین دلیل معتقدم سواد هوش مصنوعی فقط یادگیری ابزارها و پرامپتنویسی نیست. سواد واقعی در این حوزه یعنی درک سازوکار کلی مدلها، شناخت محدودیتهای آنها، آگاهی از سوگیریها و خطاهای احتمالی، توجه به حریم خصوصی و امنیت، توانایی ارزیابی خروجی و در نهایت، تشخیص این موضوع که چه زمانی باید به هوش مصنوعی اعتماد کرد و چه زمانی باید خروجی آن را با منابع معتبر و قضاوت انسانی بررسی کرد.
هوش مصنوعی نه یک فناوری کاملاً بیخطر است و نه چیزی که باید از آن ترسید یا آن را کنار گذاشت. مانند بسیاری از فناوریهای قدرتمند، ارزش واقعی آن به نحوه استفاده ما بستگی دارد.
اگر میخواهیم از مزایای هوش مصنوعی بیشترین استفاده را ببریم، باید همزمان با یادگیری قابلیتهای آن، درباره محدودیتها، ریسکها و پیامدهایش نیز مطالعه کنیم.
هوش مصنوعی را فقط برای اینکه بدانیم چه کارهایی میتواند انجام دهد یاد نگیریم؛
آن را بشناسیم تا بدانیم چه زمانی، چگونه و با چه میزان اعتمادی باید از آن استفاده کنیم.
— فرزاد آقایی
محقق و پژوهشگر حوزه هوش مصنوعی
نظرات کاربران
بدون نظر