پاسخ های تمسخرآمیز هوش مصنوعی، آبروی گوگل را برد! - مجله کالارنا

تینا مزدکی: گوگل با طراحی AI Overviews می خواست که هوش مصنوعی طی چند ثانیه، متن خلاصه ای در خصوص موضوع جست وجوی شما بنویسد. به نظر می رسید که با این ابزار، همه چیز به خوبی پیش برود؛ اما AI گوگل در پاسخ به سوالات کاربران، پاسخ های غیرمنطقی داد! این نشانه ای است که امکان دارد همین هوش مصنوعی با اشتباهات خود، فاجعه به بار بیاورد.

زمانی که از هوش مصنوعی پرسیدند که چگونه پنیر را روی پیتزا نگه داریم؟، پاسخ داد: یک هشتم فنجان چسب غیرسمی اضافه کنید. همین طور در پاسخ به سوالی در خصوص مصرف روزانه سنگ برای یک فرد، توصیه کرد که حداقل یک سنگ کوچک در روز خورده گردد. موتور جستوجوی هوش مصنوعی گوگل اغلب به خاطر همین پاسخ های عجیب وغریب خود، مورد تمسخر قرار می گیرد.

این پاسخ ها اساساً به آن علت است که داده های ناقصی به هوش مصنوعی آموزش داده شده یا اشتباهات الگوریتمی یا تفسیر نادرستی از زمینه انجام شده و این موضوع باعث شده است که هوش مصنوعی، اطلاعات نادرست ارائه دهد. بااین حال، حتی اگر درصد خطای هوش مصنوعی پایین باشد، تنها چند اشتباه برای بدبینی نسبت به آن کافی است.

کارشناسان بر این باورند که مدل های زبانی بزرگ پشت موتورهای هوش مصنوعی مانند موتورهای گوگل، مایکروسافت و OpenAI، داده هایی را که ممکن است در آینده ببیند، به روش آماری بر اساس آنچه درگذشته دیده است، پیش بینی می نماید. اما چنین چیزی برای گوگل که می خواهد جایگاه خود را در دنیای مدرن حفظ کند و یا حتی ارتقا دهد، آبروریزی بزرگی به شمار می رود.

گوگل، موتور جست وجویی که در سال 1998 آغاز به کار کرد، حدود 86 درصد از بازار را کنترل می نماید و مابقی شامل 8.2 درصد سهم بینگ، 2.6 درصد سهم یاهو، 2.1 درصد سهم Yandex و 0.1درصد سهم AOL است. اما ظهور هوش مصنوعی مولد و رشد آن در میان مصرف نمایندگان به گونه ای است که پیش بینی می گردد استفاده از گوگل تا سال 2025 به 78 میلیون کاربر یا تقریباً یک چهارم جمعیت ایالات متحده برسد.

چت ربات هوش مصنوعی گوگل Gemini نام دارد که با پدربزرگ همه آن ها، ChatGPT و تعدادی دیگر از آن ها همانند Perplexity، Anthropic، Microsoft و غیره رقابت می نماید. اگرچه همه آن ها دائم با یکدیگر می جنگند اما گوگل تنها به یک خطا احتیاج دارد تا اعتماد میلیون ها نفر را از دست بدهد.

AI Overviews چیست؟

AI Overviews ابزار تازه گوگل است که اکنون در ایالات متحده مورداستفاده قرار می گیرد. گوگل مدت هاست که صفحه نتایج موتور جستجوی خود را برای بهبود تجربه کاربر و افزایش عایدی دست کاری می نماید و AI Overviews آخرین اقدام گوگل در این زمینه است.

به یاری این قابلیت گوگل به جای این که چندبار جزئیات را جست وجو کنید، کافی است سؤال پیچیده خود را بپرسید و پاسخی را که گوگل جمع آوری می نماید، دریافت کنید. به عنوان مثال آن طور که گوگل می گوید، شما می توانید با جستجوی استودیوی یوگای محبوب در بین مردم محلی که برای رفت وآمد شما راحت و برای اعضای تازه تخفیف دارد به پاسخ جامعی برسید که قبلاً باید برای آن سه جست وجوی جداگانه انجام می دادید.

با توجه به پاسخ های عجیب وغریب هوش مصنوعی به عنوان مثال در خصوص دویدن با قیچی و یا حمام کردن با توستر، به نظر می رسد که حداقل در برخی موارد این سیستم توانایی تشخیص جوک ها و مطالب طنز را از دیگر مطالب ندارد. اگرچه چنین خطایی خنده دار است اما درنهایت مشکل بزرگی را در زمینه سازی و آنالیز واقعیت محتوای جست وجوهای هوش مصنوعی نشان می دهد. برای مثال، هوش مصنوعی گوگل در پاسخ به سؤال مزایای حمام کردن با توستر برای سلامتی چنین گفته است:

برخی افراد می گویند که حمام کردن با توستر، روش بامزه ای برای رفع استرس است. بااین حال جریان برق گذرنده از توستر می تواند فیوز را بپراند و اگر در آب باشید و بخواهید توستر را با دست بگیرید، ممکن است بمیرید. علتش آن است که آب، برق را به خوبی راهنمایی نمی نماید و جریان برق ممکن است مسیر طولانی تری را به وسیله پوست و سیستم عصبی طی کند. علاوه بر آن، برای گرم کردن وان سرشار از آب به مقادیر خطرناک انرژی گرمایی احتیاج دارید.

غول قدرتمند چگونه سقوط می نماید؟

حتی قبل از این که هوش مصنوعی چنین اشتباهات تمسخرآمیزی داشته باشد، خیلی ها از این همه تغییر گوگل راضی نبودند و می خواستند که به همان روش قدیمی با چند جست وجو، مطالب مورداحتیاج خود را گرداوری نمایند. از طرفی ناشران و سایر وب سایت ها نگران از دست دادن ترافیک هستند، چراکه ممکن است سایت ها شاهد کاهش بازدیدهای شدیدی باشند.

مدیر جستجوی گوگل، هفته گذشته در پستی که ویژگی هایAI Overviews را معرفی می کرد، گفت که استفاده های اولیه در آزمایش های گوگل نشان می داد که کلیک های کاربران برای جست وجوهایی که از هوش مصنوعی استفاده می نمایند نسبت به زمانی که از لیست وب قدیمی استفاده می شد، بیشتر شده است. با این اوصاف تنها سه ماه پس از آبروریزی دیگر گوگل، قابلیت فراوری تصویر Gemini به خاطر نادرستی های تاریخی مانند نشان دادن افراد رنگین پوست در لباس نازی ها به تعلیق عایدی.

اگرچه مدیر جست وجوی گوگل می گوید: ما سیستم های اصلی کیفیت اطلاعات خود را به دقت بهبود بخشیده ایم تا به شما یاری کنیم برترین چیزهای موجود در وب را پیدا کنید همچنان این سؤال باقی می ماند شکاف های فاجعه باری که در موتور جست وجوی گوگل وجود دارد، چگونه رفع خواهد شد.

منبع: cnet

54323