چه اتفاقی افتاد؟
در فوریهی ۲۰۲۳ گوگل برای معرفی چتبات بارد یک تبلیغ کوتاه منتشر کرد. در آن، از بارد پرسیده شد چه کشفهای تازهای از تلسکوپ جیمز وب را میشود برای یک کودک ۹ ساله تعریف کرد. یکی از پاسخها این بود که جیمز وب نخستین عکس از سیارهای بیرون از منظومهی شمسی را گرفته است. این نادرست بود، چون نخستین عکسها سالها قبل با تلسکوپهای دیگری گرفته شده بودند.
رویترز این خطا را گزارش کرد و سهام آلفابت در همان روز حدود ۷٫۷٪ افت کرد که معادل حدود ۱۰۰ میلیارد دلار ارزش بازار بود.
چرا مهم است؟
حتی در یک ویدیوی تبلیغاتی برنامهریزیشده، کسی خروجی هوش مصنوعی را با دقت بازبینی نکرده بود. وقتی خروجی هوش مصنوعی بهطور عمومی و به نام برند منتشر میشود، هر خطایی میتواند هزینهی سنگین داشته باشد.
درسها برای سازمان شما
- هر محتوای تولیدشده با هوش مصنوعی که به نام برند منتشر میشود، باید پیش از انتشار راستیآزمایی شود.
- محدودیتها و احتمال خطای هوش مصنوعی را در ارتباطات عمومی صادقانه بیان کنید.
کدام بخش از چارچوب مدیریت ریسک میتوانست جلوی آن را بگیرد؟
کارکردهای چارچوب مدیریت ریسک هوش مصنوعی مؤسسهی ملی استاندارد آمریکا (NIST) که بیشترین ارتباط را با این رخداد دارند.
- سنجش — آزمون و اندازهگیری