هوش مصنوعی باید تصمیمات خود را توضیح بدهد! - مجله سینمایی گوگوریو

به گزارش خبرنگاران و به نقل از فوربس، هوش مصنوعی هم مانند انسان، با غرض ورزی کار می کند. در حقیقت می توان گفت هر شخص یا چیزی که قابلیت تصمیم گیری داشته باشد، با غرض ورزی عمل می کند و هنگام انتخاب، به برخی از عوامل بیش از عوامل دیگر بها می دهد. با وجود این، همان گونه هوش مصنوعی در سال های اخیر به خاطر غرض ورزی و تبعیض علیه گروه های خاصی از جمله زنان و رنگین پوستان، بدنام شده، شرکت ها نیز به همان اندازه در غلبه بر تبعیض الگوریتم های آن، مهارت بیشتر به دست می آورند.

روشی که آنها غالبا برای این کار استفاده می کنند، با عنوان هوش مصنوعی با قابلیت توضیح(Explainable AI) شناخته می شود. در گذشته و حتی اکنون، عملکرد بیشتر اطلاعات مربوط به هوش مصنوعی، مانند یک جعبه سیاه ارائه می شده است. افرادی که کار رمزگذاری را انجام می دهند، شبکه های عصبی الگوریتم ها را طراحی کردند اما هنگامی که این اطلاعات منتشر شد، شبکه های عصبی بدون نظارت افرادی که آنها را برنامه ریزی کرده بودند، به کار خود ادامه دادند. در هر حال، شرکت ها در ابتدا متوجه این مشکل نشدند و هنگامی به آن پی بردند که بسیار دیر شده بود.

این مشکل هوش مصنوعی، موضوعی چالش برانگیز است. بیشتر استارتاپ ها و شرکت ها در حال حاضر، روش ها و پلتفرم هایی را براساس هوش مصنوعی قابل توضیح ارائه می دهند. یکی از جالب ترین این روش ها، روش ارائه شده توسط استارتاپ موسوم به فیدلر لبز(Fiddler Labs) است. این استارتاپ که در سانفرانسیسکو و توسط مهندسان پیشین فیسبوک و سامسونگ تاسیس شده است، نوعی موتور جستجوی مبتنی بر هوش مصنوعی را به شرکت ها پیشنهاد می کند که همه عوامل مرتبط با تصمیم گیری را نمایش می دهد. آمیت پاکا(Amit Paka)، از بنیان گذاران این استارتاپ گفت: نرم افزار ما موجب می شود که رفتار مدل های هوش مصنوعی، واضح و قابل درک باشند.

پاکا به عنوان نمونه توضیح داد که چگونه هوش مصنوعی قابل توضیح می تواند به مدل مبتنی بر هوش مصنوعی مورد استفاده بانک ها کمک کند.

وی افزود: ورودی های بسکمک وجود دارند که هنگام تصمیم گیری برای یک کاربرد خاص، مورد توجه قرار می گیرند. در یک فضای قدیمی بدون وجود فیدلر، گفتن چگونگی و دلیل تاثیر هر ورودی بر نتیجه، سخت و یا تقریبا غیرممکن است اما شاید بانک ها با وجود هوش مصنوعی قابل توضیح بتوانند تاثیر هر ورودی را نسبت به خروجی تعیین کنند.

پاکا افزود: این قابلیت توضیح دادن، به ابداع کنندگان هوش مصنوعی، کاربران اقتصادی، تنظیم کنندگان و کاربران نهایی امکان می دهد تا درک بهتری در مورد دلیل پیش بینی های خاص داشته باشند. این موضوع، در مورد تعصب و اخلاقیات مربوط به هوش مصنوعی، از اهمیت بالایی برخوردار است زیرا به شرکت ها امکان می دهد تا تبعیض های احتاقتصادی علیه گروه های خاص را شناسایی کنند. به علاوه، چنین قابلیتی می تواند به شرکت ها در اصلاح مدل های هوش مصنوعی پیش از به کار بردن آنها در مقیاس بزرگ کمک کند.

پاکا ادامه داد: تعصب نژادی هوش مصنوعی در الگوریتم های مربوط به سلامت و تبعیض آن در تصمیم گیری و قضاوت، فقط چند نمونه از مسائل مربوط به غرض ورزی هوش مصنوعی هستند. الگوریتم های پیچیده هوش مصنوعی در حال حاضر مانند جعبه سیاه عمل می کنند و حتی با داشتن عملکرد خوب، فعالیت داخلی آنها ناشناخته و غیرقابل توضیح دادن است.

یکی از دلایل اهمیت هوش مصنوعی قابل توضیح در غلبه بر غرض ورزی الگوریتم ها، این است که شاید جنسیت، نژاد و مقوله های دیگری از این دست، صریحا رمزگذاری نشده اند. در چنین مواردی، هوش مصنوعی قابل توضیح لازم است تا به شرکت ها در برداشتن تبعیض های عمیق داده هایی که این الگوریتم های پیچیده را تغذیه می کنند، کمک کند.

با توجه به این دلایل، ابداع مدل های هوش مصنوعی که قابلیت بیشتری برای توضیح داشته باشند، کلید اصلاح عواملی است که به بروز غرض ورزی می انجامند. این مدل ها همچنین می توانند رعایت مقررات توسط سیستم های هوش مصنوعی را نیز تضمین کنند. تنظیمات بیشتر می تواند به اطمینان بیشتر از عملکرد عادلانه هوش مصنوعی و قابل توضیح بودن آن کمک کنند.

نکته مثبت این است که شرکت های دیگری به غیر از فیدلر لبز نیز راه حل ها و پلتفرم های مبتنی بر هوش مصنوعی را ارائه می دهند که قابل مقایسه و توضیح دادن هستند. برای مثال، یک استارتاپ فعال در حوزه هوش مصنوعی موسوم به کیندی(Kyndi) که در این زمینه فعالیت می کند، در ماه ژوئیه سال جاری پیروز شد بودجه ای به مبلغ 20 میلیون دلار به دست بیاورد و در حال حاضر نیز از پلتفرم های خود برای بررسی دلیل هر تصمیم گیری استفاده می کند.

شرکت دیگری که در حوزه هوش مصنوعی قابل توضیح فعالیت دارد، شرکت آمریکایی زد ادونسد کامپیوتینگ(Z Advanced Computing) است. این شرکت در ماه اوت خاطرنشان کرد که بودجه ای را از نیروی هوایی آمریکا دریافت کرده است تا فناوری تشخیص چهره سه بعدی را بر اساس هوش مصنوعی قابل توضیح ارائه دهد.

شرکت ویانی سیستمز(Vianai Systems) که در ماه سپتامبر و توسط مدیرعامل پیشین شرکت اینفوسیس(Infosys) بنیان گذاشته شد نیز هوش مصنوعی قابل توضیح دادن را برای گروهی از سازمان ها و در طیف وسیعی از نقش ها به کار می گیرد.

شرکت های دیگری نیز در حوزه هوش مصنوعی قابل توضیح فعالیت دارند که نرم افزارها و راه حل های آنها، بهبود قابل توجهی را در نحوه عملکرد هوش مصنوعی ایجاد می کند.

با وجود همه فوایدی که چنین برنامه هایی به همراه دارند، نکات منفی استفاده از آنها غیرقابل انکار هستند. این امکان وجود دارد که هوش مصنوعی نهایتا اثر متضادی بر شرکت هایی مانند فیدلر لبز و کیندی داشته باشد.

از آنجا که دولت ها یا شرکت ها می توانند عوامل دقیق یک الگوریتم را برای تصمیم گیری به کار ببرند، ممکن است برخی از سازمان های غیراخلاقی، از موتورهای هوش مصنوعی قابل توضیح استفاده کنند تا الگوریتم های آنها، غرض ورزی بیشتری داشته باشد.