به انسان اعتماد کنیم یا هوش مصنوعی؟

یک کارشناس سواد رسانه‌ای، هشدار می‌دهد: «ما اکنون به مهارتی تازه نیاز داریم که از آن با عنوان "سواد اعتماد" یاد می‌کنیم. این مهارت به ما یاد می‌دهد چگونه در جهانی که انسان و ماشین با هم پیام می‌سازند، اعتماد خود را مدیریت کنیم.» در عصری که مرز بین تولیدات انسانی و هوش مصنوعی محو شده، این دیگر یک انتخاب نیست، بلکه یک ضرورت برای بقای فکری است.

معصومه نصیری ـ کارشناس و پژوهشگر سواد رسانه‌ای ـ با تاکید بر مهارت سواد اعتماد معتقد است: در عصر هوش مصنوعی، دیگر مرز میان انسان و ماشین در تولید محتوا از میان رفته است. خبرها، تصاویر و تحلیل‌هایی که روزانه می‌بینیم، گاه به‌صورت ترکیبی از اندیشه انسانی و توان الگوریتم‌ها تولید می‌شوند. در چنین شرایطی، پرسش اساسی این است: اعتماد مخاطب باید به چه کسی و چه محتوایی شکل بگیرد؟ انسان، ماشین یا هر دو؟ و اینجاست که پای سواد اعتماد به عصر نوین باز می‌شود و ما را از سواد رسانه‌ای به سواد اعتماد رهنمون می‌کند.

این کارشناس رسانه در یادداشتی که به مناسبت هفته جهانی سواد رسانه‌ای نوشته، درباره اهمیت سواد اعتماد در عصر هوش مصنوعی آورده است: در دهه‌های اخیر، مفهوم «سواد رسانه‌ای» به ما آموخته که در برابر پیام‌های رسانه‌ای هوشیار باشیم، اطلاعات را راستی‌آزمایی کنیم و چگونه با راستی‌آزمایی از دام خبرهای جعلی در امان بمانیم. اما امروز، فناوری‌های تولید متن و تصویر مبتنی بر هوش مصنوعی، مرزهای شناخت ما را به چالش کشیده‌اند.

این چالش یادآور این است که ما اکنون به مهارتی تازه نیاز داریم که از آن با عنوان «سواد اعتماد» یاد می‌کنیم. این مهارت به ما یاد می‌دهد چگونه در جهانی که انسان و ماشین با هم پیام می‌سازند، اعتماد خود را مدیریت کنیم. به‌جای آن‌که بی‌قید و شرط به منابع انسانی یا ماشینی تکیه کنیم، باید بیاموزیم اعتماد را تنظیم و تحلیل‌پذیر ببینیم. در واقع پاسخ به اینکه سواد اعتماد چگونه ایجاد و تقویت می‌شود، هسته مرکزی بحث اعتماد در عصر هوش مصنوعی است.

اما سواد اعتماد چگونه ایجاد و تقویت می‌شود؟ پاسخ به این سوال شاید عبور مطمئن و هوشمندانه ما از سواد رسانه‌ای به سواد اعتماد را منجر شده و از ما شهروندانی هوشمندتر برای زیست در عصر غلبه فناوری بسازد. سواد اعتماد (Trust Literacy) به معنای توانایی درک، سنجش و بازسازی اعتماد در محیط‌های ارتباطی پیچیده است؛ محیط‌هایی که در آن‌ها مرز میان انسان، داده و الگوریتم از بین رفته است. ایجاد و تقویت این مهارت، نیازمند یک فرآیند چندمرحله‌ای است که شامل آگاهی، تحلیل، تجربه، و تعهد اخلاقی است.

در ادامه، پنج رکن مهم ایجاد و تقویت سواد اعتماد را مورد اشاره قرار خواهیم داد:

۱: آموزش آگاهی درباره سازوکار و چیستی فناوری

اعتماد بدون شناخت شکل نمی‌گیرد. گام نخست در تقویت سواد اعتماد، این است که کاربران بدانند فناوری چگونه کار می‌کند. آگاهی از مفاهیمی مانند سوگیری داده‌ها، شفافیت الگوریتمی، و ردپای دیجیتال و... باعث می‌شود مخاطب در مواجهه با هر محتوایی، اعتمادش را آگاهانه تنظیم کند، نه غریزی یا تقلیدی. بر این اساس آموزش عمومی درباره هوش مصنوعی باید جزئی از سواد پایه هر شهروند دیجیتال باشد، درست مانند خواندن و نوشتن در گذشته.

۲: تقویت مهارت راستی‌آزمایی چندسطحی

اعتماد زمانی شکل می‌گیرد که فرد بتواند صحت اطلاعات را به‌صورت مستقل ارزیابی کند. این یعنی فراتر رفتن از نگاه سطحی به محتوا و یادگیری ابزارهای راستی‌آزمایی در سه سطح که این سطوح هر کدام دارای اهمیت ویژه‌ای نیز هستند. سطح نخست سطح داده‌هاست. تشخیص منبع و زمان تولید محتوادر این لایه مهم است. سطح دوم سطح روایت است. این سطح مربوط به تحلیل انگیزه‌ها و زاویه دید تولیدکننده محتوا می‌شود. سطح سوم هم سطح الگوریتم است. فهم اینکه چرا یک محتوا در معرض دید ما قرار گرفته و ... در این سطح مورد تاکید است.

این نوع تحلیل چندسطحی باعث می‌شود مخاطب نه تنها بداند چه چیزی درست است، بلکه بفهمد چرا به او نشان داده شده است.

۳: شفافیت و پاسخگویی تولیدکنندگان محتوا

سواد اعتماد یک مهارت صرفا فردی نیست؛ یک مسئولیت نهادی و رسانه‌ای نیز هست. رسانه‌ها، خبرنگاران و حتی تولیدکنندگان محتوای مبتنی بر هوش مصنوعی باید درباره فرایند تولید محصولات خود شفاف باشند و به‌گونه‌ای مخاطب را آگاه کنند که آیا از ابزارهای هوش مصنوعی استفاده کرده‌اند؟، داده‌های محتواهای خود را از کجا آورده‌اند؟، درباره سوگیری‌ها یا محدودیت‌های احتمالی توضیح شفاف دهند؟ و ... وقتی تولیدکننده مسئولیت‌پذیر و پاسخ‌گو باشد، مخاطب نیز یاد می‌گیرد اعتماد را نه براساس ظاهر محتوا، بلکه براساس رفتار شفاف تولیدکننده شکل دهد.

۴: پرورش نگاه انتقادی، نه بدبینانه

سواد اعتماد یعنی توانایی تشخیص مرز میان «شک سازنده» و «بی‌اعتمادی مخرب» را بدانیم. فردی که سواد اعتماد دارد، هرگز به‌طور مطلق رد یا قبول نمی‌کند؛ بلکه می‌پرسد، مقایسه می‌کند و به‌تدریج الگوی اعتماد خود را می‌سازد. پس باید تاکید کرد که نگاه انتقادی، اعتماد را ویران نمی‌کند؛ بلکه آن را مستحکم می‌سازد و پرورش چنین نگاهی نیازمند تمرین مداوم گفت‌وگو، مطالعه و قرار گرفتن در معرض دیدگاه‌های متنوع است.

۵: اخلاق و مسئولیت در استفاده از فناوری

در نهایت، سواد اعتماد زمانی نهادینه می‌شود که با اخلاق دیجیتال همراه باشد. یعنی کاربران در هر سطحی در کنار مهارت تحلیلی، احساس مسئولیت نیز داشته باشند. یعنی در انتشار محتوا صداقت رعایت شود؛ در استفاده از داده‌ها حریم خصوصی محترم و محفوظ بماند و در بهره‌گیری از هوش مصنوعی، اثرات اجتماعی و فرهنگی آن در نظر گرفته شود. بنابراین اعتماد پایدار، بدون اخلاق امکان‌پذیر نیست. هوش مصنوعی می‌تواند داده‌ها را تحلیل کند، اما فقط انسان است که می‌تواند اخلاق را در جایگاه درستش مورد احترام قرار دهد.

ما باید برای زیست هوشمندانه‌تر در عصر غلبه فناوری بدانیم الگوریتم‌ها صرفا ابزار نیستند؛ آن‌ها سازندگان روایت‌اند. هر الگوریتم بر اساس آن داده‌ها تصمیم می‌گیرد چه چیزی را به ما نشان دهد و چه چیزی را پنهان کند. به همین دلیل، تولید محتوای مبتنی بر هوش مصنوعی می‌تواند تصویری جهت‌دار از واقعیت ارائه دهد، بی‌آنکه ما متوجه شویم. لذا اعتماد کور به خروجی‌های هوش مصنوعی، همان‌قدر خطرناک است که بی‌اعتمادی مطلق به فناوری. مخاطب باید بداند هر روایت دیجیتال، بازتاب مجموعه‌ای از انتخاب‌های انسانی، محدودیت‌های فنی و اهداف پنهان الگوریتمی است.

لذا اگر سواد رسانه‌ای به ما آموخته که چگونه در برابر پیام‌ها «شک کنیم»، سواد اعتماد باید به ما بیاموزد که چگونه آگاهانه اعتماد کنیم. در این مسیر، نظام آموزشی و رسانه‌ای کشور می‌توانند نقش مهمی در ارتقای آگاهی عمومی داشته باشند؛ از آموزش «شفافیت الگوریتمی» گرفته تا مهارت «ردیابی منبع دیجیتال» و شناخت اخلاق فناوری. سواد اعتماد، در حقیقت، حلقه گمشده میان سواد رسانه‌ای و سواد داده است؛ مهارتی که می‌تواند رابطه انسان و فناوری را از بی‌اعتمادی متقابل به گفت‌وگویی آگاهانه تبدیل کند.

آنچه باید بر آن تاکید کنیم این است که اعتماد در عصر هوش مصنوعی، دیگر یک احساس ساده نیست؛ یک مهارت شناختی، اجتماعی و اخلاقی است. ما در دنیایی زندگی می‌کنیم که هوش مصنوعی می‌تواند حقیقت را بازسازی کند، اما این انسان است که باید معنا را نگه دارد. پرسش اساسی «به چه کسی باید اعتماد کرد؟» شاید دیگر پاسخ ساده‌ای نداشته باشد؛ اما آنچه روشن است، این است که سواد اعتماد می‌تواند راهنمای ما در زیست آگاهانه در عصر هوش مصنوعی باشد؛ عصری که در آن اعتماد باید ساخته و نگهداری شود.

*