اخیراً گفت وگویی درباره استفاده از هوش مصنوعی در انتخاب اهداف نظامی در ایران دیدم که در آن به حادثه ای اشاره شده بود که طی آن یک مدرسه دخترانه تخریب شد. نمی خواهم این موضوع را به یک بحث سیاسی تبدیل کنم و ادعا نمی کنم که درباره این حادثه به اندازه کافی اطلاعات دارم که بتوانم قضاوت کنم تصمیم چگونه گرفته شده است. چیزی که توجه من را جلب کرد، پرسشی بسیار گسترده تر بود: وقتی اطلاعات تولیدشده توسط هوش مصنوعی وارد یک تصمیم گیری مهم و پیامددار انسانی می شود و بررسی انسانی چیزی بیش از یک تشریفات نیست، چه اتفاقی می افتد؟
شینجین ژائو
این پرسشی است که به طور فزاینده ای، بسیار فراتر از حوزه نظامی اهمیت پیدا خواهد کرد. بسیاری از ما از هوش مصنوعی برای جمع آوری اطلاعات، تحلیل داده ها، بررسی و بحث درباره مسائل، تولید بینش ها و ایجاد گزینه های مختلف استفاده خواهیم کرد. راهکار حفاظتیِ واضح این است که بگوییم: «البته که یک انسان خروجی هوش مصنوعی را بررسی خواهد کرد.»
اما این کار آسان تر از چیزی است که به نظر می رسد. ما دهه هاست از مدل ها برای پیش بینی استفاده می کنیم. پیش بینی تقاضا، مدل های مالی، شبیه سازی های مهندسی، مدل های ریسک و ابزارهای تحلیلی بی شمار دیگری بر تصمیم های مهم تاثیر گذاشته اند.
تفاوت در این است که ما معمولاً پیش از اتکا به خروجی یک مدل، آن را اعتبارسنجی می کنیم. فرضیات آن را بررسی می کنیم. آن را با داده ها می آزماییم. محدودیت های آن را می فهمیم و شرایطی را که در آنها نباید از مدل استفاده شود، شناسایی می کنیم. وقتی اطمینان منطقی نسبت به مدل ایجاد کردیم، می توانیم پیش بینی های آن را در همان محدوده تفسیر کنیم.
هوش مصنوعی مشکل متفاوتی ایجاد می کند. به جای اینکه ابتدا یک مدل را اعتبارسنجی و سپس از آن استفاده کنیم، به طور فزاینده ای از هوش مصنوعی می خواهیم پاسخی تولید کند و سپس انتظار داریم یک انسان بعد از آن، پاسخ را اعتبارسنجی کند.
این روش ممکن است زمانی جواب بدهد که پاسخ ساده و پیامدها کم اهمیت باشند. اما وقتی هوش مصنوعی بتواند در چند دقیقه تحلیلی تولید کند که یک تیم انسانی برای بررسی مستقل آن به چند روز زمان نیاز داشته باشد، چه اتفاقی می افتد؟ یا وقتی در دنیای پرشتاب امروز، به نظر می رسد همه چیز باید از دیروز انجام شده باشد و بعضی اطلاعات، هر قدر هم که به انسان زمان بدهیم، اساساً برای او غیرممکن باشد که آنها را اعتبارسنجی کند؟
آیا فردی که مسئول «اعتبارسنجی» آن است، واقعاً می تواند این کار را انجام دهد؟ آیا تخصص لازم را دارد؟ آیا به اطلاعات زیربنایی دسترسی دارد؟ آیا زمان کافی دارد؟ و مهم تر از همه، آیا در سازمان اختیار لازم را دارد که بگوید: «من به این پاسخ اعتماد ندارم»؟
در غیر این صورت، نظارت انسانی به راحتی می تواند به یک تیک زدن در یک چک لیست تبدیل شود: هوش مصنوعی آن را تولید کرد. یک انسان آن را بررسی کرد. یک نفر آن را تایید کرد.
از نظر فنی، یک انسان در فرایند حضور داشت. اما آیا واقعاً قضاوت معنادار انسانی وجود داشت؟ این موضوع من را به چیزی بسیار قدیمی تر از هوش مصنوعی یادآوری می کند: سه عنصر اقناع از نظر ارسطو؛ لوگوس، اتوس و پاتوس.
لوگوس، منطق و شواهد پشت یک استدلال است. هوش مصنوعی در این زمینه فوق العاده قدرتمند است. می تواند حجم عظیمی از اطلاعات را جمع آوری کند، الگوها را شناسایی کند، استدلال بسازد، گزینه های مختلف را با یکدیگر مقایسه کند و آنها را با شفافیتی قابل توجه ارائه دهد.
اما اقناع هرگز فقط به لوگوس محدود نبوده است. درست و منطقی بودن تنها یکی از سه عنصر است. ما به اتوس و پاتوس نیز نیاز داریم.
اتوس، اعتبار است. ما اطلاعات را مستقل از فرد یا نهادی که آن را ارائه می کند ارزیابی نمی کنیم. تجربه، شخصیت، سابقه عملکرد، قضاوت و اینکه آیا منبع توانسته است اعتماد ما را به دست آورد یا نه، برای ما اهمیت دارد. پاتوس، ارتباط انسانی است.
درک یک موقعیت صرفاً یک تمرین فکری نیست. زمینه، همدلی، ارزش ها، روابط و پیامدها بر نحوه تفسیر اطلاعات و تصمیم گیری افراد تاثیر می گذارند، به همین دلیل، رهبری را نمی توان به ارائه تحلیل درست تقلیل داد.
یک رهبر ممکن است اطلاعات دقیق تری در اختیار داشته باشد و همچنان نتواند دیگران را متقاعد کند. رهبر دیگری ممکن است همه پاسخ ها را نداشته باشد، اما بتواند اعتماد دیگران را به دست آورد؛ زیرا مردم باور دارند که او موقعیت را درک می کند، آنها را می فهمد و مسئولیت پیامدهای تصمیم را بر عهده خواهد گرفت.
هوش مصنوعی می تواند لوگوس تولید کند. اما نمی تواند به سادگی برای خودش «اتوس» تولید کند. شاید این مسئله عمیق تر در تصمیم گیری مبتنی بر هوش مصنوعی باشد.
ما معمولاً اعتبارسنجی را به معنای بررسی درست بودن اطلاعات می دانیم. اما تصمیم های مهم و پیامددار، به چیزی بیش از دقت واقعی اطلاعات نیاز دارند. باید بدانیم آیا اطلاعات برای آن موقعیت مناسب است یا نه، آیا محدودیت های آن درک شده اند یا نه، آیا این توصیه شایسته اعتماد است یا نه و آیا فردی با اعتبار واقعی حاضر است مسئولیت این تصمیم را بر عهده بگیرد یا نه.
به همین دلیل، صرفاً قرار دادن یک انسان در انتهای فرایند هوش مصنوعی ممکن است کافی نباشد.
نظارت انسانی تنها زمانی معنادار است که انسان هم توانایی و هم ظرفیت به چالش کشیدن ماشین را داشته باشد. بدون این دو، پاسخگویی تا حدی مصنوعی می شود. ممکن است انسان را مسئول تصمیم بدانیم، در حالی که سازمان عملاً قضاوت را به هوش مصنوعی واگذار کرده است.
طنز ماجرا این است که هرچه هوش مصنوعی بهتر شود، این خطر ممکن است بیشتر شود. چالش زمانی ایجاد می شود که هوش مصنوعی آن قدر خوب باشد که در بیشتر مواقع به آن اعتماد کنیم. در همین نقطه است که اعتبارسنجی سطحی می تواند خطرناک شود.
درس این نیست که باید استفاده از هوش مصنوعی را متوقف کنیم. درست برعکس. هوش مصنوعی ممکن است به یکی از قدرتمندترین ابزارهایی تبدیل شود که برای تفکر و تصمیم گیری در اختیار داریم. اما شاید لازم باشد در تعریف خود از «انسان در حلقه» بازنگری کنیم. چگونه مطمئن شویم که انسان واقعاً قضاوت می کند؟
یادم نیست چه کسی این جمله را گفته است، اما خطر واقعی این نیست که رایانه ها شروع کنند مانند انسان ها فکر کنند، بلکه این است که انسان ها شروع کنند مانند رایانه ها فکر کنند.
و شاید همین جاست که یک ایده قدیمی از ارسطو در عصر هوش مصنوعی همچنان به شکل شگفت انگیزی مرتبط و معنادار باقی می ماند. یک استدلال متقاعدکننده به چیزی بیش از منطق نیاز دارد. یک تصمیم مهم و پیامددار نیز همین طور است. هوش مصنوعی می تواند پاسخ تولید کند. اما اعتبار همچنان چیزی است که باید به دست آورده شود.
