ভাল জিনিস জোড়ায় আসে, দুর্ভাগ্য কখনও এককভাবে আসে না, এবং Google আবার "উল্টে যায়"।
2023 সালের ফেব্রুয়ারিতে, বার্ড, যেটি ChatGPT-এর পিছনে ছিল, 2023 সালের ডিসেম্বরে, জেমিনি জার্ভিসের মতো কথা বলেছিল, কিন্তু 2024 সালের ফেব্রুয়ারিতে, জেমিনি একাধিক ত্বকের রঙের ঐতিহাসিক ব্যক্তিত্ব তৈরি করেছিল; শেতাঙ্গ মানুষেরা.
এবার দুর্ভাগ্য পড়েছে গুগলের বিশেষত্ব- অনুসন্ধানে। বিদেশী নেটিজেনরা উত্তেজনা দেখার জন্য এটিকে খুব বেশি গুরুত্ব সহকারে নেয়নি, এমনকি ছবির লড়াইয়ের কার্নিভালের একটি তরঙ্গ মঞ্চস্থ করেছিল।
গুগল এআই অনুসন্ধান যা ভিড় দ্বারা উপহাস করা হয়েছিল একটি স্পষ্ট বোকামি আছে
Google I/O সম্মেলনে লঞ্চ করা বৈশিষ্ট্যগুলির মধ্যে একটি হল AI ওভারভিউ।
নাম অনুসারে, এআই ওভারভিউ লিঙ্ক সহ ওয়েব পৃষ্ঠার শীর্ষে একাধিক উত্সের সারাংশ তৈরি করে।
সেই সময়ে, Google AI ওভারভিউতে খুব আত্মবিশ্বাসী ছিল এবং ঘোষণা করেছিল যে এটি অবিলম্বে সমস্ত মার্কিন ব্যবহারকারীদের কাছে চালু করা হবে এবং শীঘ্রই এটি বছরের শেষ নাগাদ 1 বিলিয়নেরও বেশি লোককে কভার করবে বলে আশা করা হচ্ছে।
যাইহোক, কয়েক দিনের মধ্যে, AI ওভারভিউ আমেরিকান ব্যবহারকারীদের মধ্যে উল্টে যায়।
বাড়িতে তৈরি পিজ্জার পনির যদি পড়ে যায় তবে আমার কী করা উচিত?
Google সুপারিশ করে যে আপনি, প্রিয়, সসে প্রায় 1/8 কাপ আঠা যোগ করুন। এটি বিশেষভাবে জোর দেওয়া হয় যে এটি অ-বিষাক্ত, এবং এর পিছনে কারণ হল হৃদয়-উষ্ণতা।
Google এখন এটি তৈরি করেনি, কিন্তু 11 বছর আগে Reddit-এ একজন ব্যবহারকারীর করা মন্তব্য থেকে উত্তরটি অনুলিপি করেছে, দুর্ভাগ্যবশত, এটি মানুষের হাস্যরস পড়তে পারে না।
পরিপূরক পুষ্টির জন্য একজন ব্যক্তির দিনে কতগুলি পাথর খাওয়া উচিত?
গুগল নিজেই প্রশ্নটির অযৌক্তিকতা খণ্ডন করেনি, তবে গুরুত্ব সহকারে বলেছে যে ইউসি বার্কলে ভূতাত্ত্বিকদের মতে, ভিটামিন এবং খনিজ পেতে আপনার দিনে অন্তত একটি ছোট পাথর খাওয়া উচিত।
উত্তরের উৎস হল দ্য অনিয়ন নিউজের 2021 সালের একটি "রিপোর্ট", যা জাল খবর এবং ব্যঙ্গাত্মক নিবন্ধের জন্য বিখ্যাত।
এআই ওভারভিউ আমেরিকান ইতিহাসে ভালভাবে পরিচিত নয় এবং ষড়যন্ত্র তত্ত্বের ফাঁদে পড়ে যে ওবামা প্রথম মুসলিম রাষ্ট্রপতি।
কিছু সময়ের জন্য, সোশ্যাল মিডিয়া যেমন X বিমূর্ততার একটি তরঙ্গ শুরু করে: স্ক্রিনশট পোস্ট করা এবং কার Google উত্তরটি সবচেয়ে হাস্যকর তা দেখার জন্য প্রতিযোগিতা করে।
প্রতিযোগিতা মারাত্মক, এবং AI এর জগতে, একজন প্রাক্তন রাষ্ট্রপতি উইসকনসিন বিশ্ববিদ্যালয় থেকে 21 বার স্নাতক হয়েছেন, একটি কুকুর এনবিএ, এনএফএল এবং এনএইচএল-এ খেলেছে এবং ব্যাটম্যান একজন পুলিশ অফিসার।
যেখানে লোকেরা মজা করার জন্য জড়ো হয়, সেখানে অনেক লোক রয়েছে যারা সমস্যাযুক্ত জলে মাছ ধরে এবং সঠিক এবং ভুলকে বিভ্রান্ত করে।
Google প্রতিক্রিয়া জানায় যে AI ওভারভিউতে বেশিরভাগ তথ্য উচ্চ মানের এবং ব্যবহারকারীদের "রোলওভার" এর অনেক উদাহরণে আরও জানতে দরকারী লিঙ্কগুলি প্রদান করে এবং ফলাফলগুলি পুনরুত্পাদন করা যায় না বা করাও যায় না। ক্ষতিগ্রস্ত.
উদাহরণস্বরূপ, একটি বহুল প্রচারিত স্ক্রিনশট দেখায় যে হতাশার নিরাময় হল গোল্ডেন গেট ব্রিজ থেকে লাফ দেওয়া। এটি মানুষের জীবনের বিষয়, এবং Google এই ফলাফলটি জাল ছিল তা ব্যাখ্যা করার জন্য তার পথের বাইরে চলে গেছে।
▲স্ক্রিনশট Google দ্বারা খণ্ডন করা হয়েছে৷
একই সময়ে, গুগল অন্যান্য উদাহরণগুলিকে খণ্ডন করেনি, তবে এআই উন্নত করার জন্য সেগুলিকে খাদ্য হিসাবে ব্যবহার করেছে। কেন মানব প্রতিক্রিয়া (RLHF) এর সাথে শক্তিবৃদ্ধি শেখার গণনা করবেন না?
তীক্ষ্ণ দৃষ্টিসম্পন্ন নেটিজেনরাও আবিষ্কার করেছেন যে Google I/O-এ সাবধানে নির্বাচিত ডেমোতে প্রকৃতপক্ষে বাস্তবগত ত্রুটি ছিল, কিন্তু সেগুলি আরও সূক্ষ্ম ছিল৷
একটি আটকে থাকা ফিল্ম ক্যামেরা কীভাবে ঠিক করবেন তা জিজ্ঞাসা করা হলে, গুগল পিছনের দরজাটি খোলার এবং আস্তে আস্তে ফিল্মটি সরানোর পরামর্শ দেয়, তবে এটি আপনার ফটোগুলিকে নষ্ট করতে পারে।
এই প্রথমবার নয় যে গুগল এমন কোনো পাবলিক প্লেসে ভুল করেছে যা বেশি মনোযোগ আকর্ষণ করে।
2023 সালের ফেব্রুয়ারিতে, Google বার্ড একটি প্রদর্শনের সময় বলেছিল যে জেমস ওয়েব স্পেস টেলিস্কোপই প্রথম টেলিস্কোপ যা এক্সট্রাসোলার গ্রহের ছবি তুলেছিল। প্রকৃতপক্ষে, একটি এক্সোপ্ল্যানেটের প্রথম ছবি 2004 সালে নেওয়া হয়েছিল। একটি ভুল কোম্পানির বাজার মূল্য $100 বিলিয়ন খরচ হয়েছে.
এই সময়, এআই ওভারভিউতে ভুলগুলি ছাড়াও, আরও একটি ত্রুটি রয়েছে: এই ফাংশনটি বন্ধ করা সহজ নয়। কিছু উত্সাহী বিকাশকারী এক্সটেনশন তৈরি করতে ছুটে এসেছেন যা শুধুমাত্র ঐতিহ্যগত অনুসন্ধান ফলাফলগুলি প্রদর্শন করতে বাধ্য করেছে৷
এটি গুগলের দোষ যে AI ওভারভিউ প্রথাগত অনুসন্ধান পৃষ্ঠাগুলির উপর ভিত্তি করে এবং ব্যবহারকারীদের একটি বিশাল সংখ্যা আছে যারা AI এর সাথে অন্ধভাবে বিশ্বাস করেন এবং বিভ্রান্ত হন, ফলাফল বলা কঠিন। .
"কিভাবে Google 30% ভুল হতে পারে?"
আসলে, এআই ওভারভিউ দ্বারা উন্মোচিত সমস্যাগুলি নতুন নয়। এটি দীর্ঘদিন ধরে একটি খোলা গোপনীয়তা ছিল যে AI ভুল করে।
ঠিক যেমন "ধূমপান স্বাস্থ্যের জন্য ক্ষতিকর" যেটি স্টাইলিংয়ে ভূমিকা পালন করে, তেমনি AI ওভারভিউয়ের নীচে চিহ্নিত করা হয়েছে: "জেনারেটিভ AI পরীক্ষামূলক।" তথ্য।"
বৃহৎ ভাষার মডেলগুলির মূল নীতি হল যে পরবর্তী শব্দ বা বাক্যাংশ তৈরির সর্বোচ্চ সম্ভাবনা সহ পাঠ্যের ভবিষ্যদ্বাণী করে, কখনও কখনও ভুল কিন্তু আপাতদৃষ্টিতে যুক্তিযুক্ত শব্দগুলি নির্বাচন করা হতে পারে, যা মিথ্যা তথ্য বা "ভ্রম" এর দিকে পরিচালিত করে।
AI ওভারভিউ-এর ননসেন্স হল হ্যালুসিনেশনের প্রকাশ।
এমনকি যদি RAG (Retrieval Augmented Generation) এর মতো প্রযুক্তিগুলিকে প্রজন্মের মডেলের সাথে পুনরুদ্ধার ব্যবস্থাকে একত্রিত করতে এবং প্রশ্নের উত্তর দেওয়ার সুযোগকে সীমিত করার জন্য ব্যবহার করা হয়, তবে এটি কেবল বিভ্রমকে দমন করতে পারে, কিন্তু নিরাময় করতে পারে না।
তদুপরি, উত্সের বিশ্বাসযোগ্যতা নিজেই প্রশ্নবিদ্ধ। "Tieba এর আমেরিকান সংস্করণ" Reddit, বিষয়বস্তু প্রামাণিক মিডিয়ার পরিবর্তে নেটিজেনদের দ্বারা অবদান রাখে।
এই বছরের ফেব্রুয়ারিতে, গুগল রেডডিটের সাথে একটি চুক্তিতে পৌঁছেছে যাতে এআই মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য তার সামগ্রী ব্যবহার করা যায়। সেই সময়, কিছু লোক ভাবছিল যে এটি "আবর্জনা ভিতরে, আবর্জনা আউট" এর বিব্রতকর পরিস্থিতির দিকে নিয়ে যাবে কিনা।
Google একমাত্র "ভ্রম" দ্বারা বিরক্ত নয়। গত বছরের মে মাসে, যখন একজন নেটিজেন মাইক্রোসফটের নতুন বিং সম্পর্কে প্রশ্ন করেছিলেন, তখন তিনি রেফারেন্স লিঙ্কে ক্লিক করলে তিনি দেখতে পান যে জিহু উত্তরটি আসলে AI দ্বারা তৈরি করা হয়েছে।
কীভাবে এআই অনুসন্ধানকারীরা উত্সগুলি উদ্ধৃত করে তাও একটি বিভ্রান্তিকর প্রশ্ন। যখন আমি চাইনিজ ভাষায় "কিভাবে একটি শিবা ইনুকে স্নান করতে হয়" অনুসন্ধান করেছিলাম, তখন Perplexity-এর উত্সগুলি ছিল Sohu, YouTube, Douban Diary, এবং Bilibili, যখন Tiangong-এর উত্সগুলি ছিল Zhihu এবং Baidu Wenku, আমি এই মুহূর্তে কোনটি বেশি প্রামাণিক, তা জানতাম না৷ এবং আমি এটা বিশ্বাস করতে পারে না.
যেহেতু AI সার্চই সব হ্যালুসিনেশন, তাই কেন গুগল সবসময় আগুনে পোড়ানো হচ্ছে?
1998 সালে প্রতিষ্ঠিত, Google একটি AI জায়ান্ট হিসাবে অনুসন্ধানের সমার্থক হয়ে উঠেছে, Google বহির্বিশ্বের কাছ থেকে প্রত্যাশা বাড়িয়েছে এবং ভুলের পরিণতি তাকে বহন করতে হবে৷
বিপরীতে, Perplexity CEO অরবিন্দ শ্রীনিবাস বলেছেন যে হালকাভাবে ভ্রমণ করা তাদের সুবিধা, এবং কথায় কিছু গর্ব আছে।
আপনি যদি আমাদের পণ্যগুলি ব্যবহার করেন এবং তাদের মধ্যে 80% ভাল পারফর্ম করেন, আপনি প্রভাবিত হতে পারেন, কিন্তু আপনি যদি Google এর পণ্যগুলি ব্যবহার করেন এবং সেগুলির মধ্যে মাত্র 70% সঠিক হয়, তাহলে আপনি বিভ্রান্ত হতে পারেন, কীভাবে Google 30% সময় ভুল হতে পারে?
এছাড়াও, এআই অনুসন্ধান ব্যবহারকারীর জ্ঞানের পরিবর্তনের দিকে পরিচালিত করেছে।
আমরা বলতাম "সার্চ উইথ গুগল", কিন্তু সার্চের জেনারেটিভ এআই ফাংশন প্রবর্তন করার সময়, গুগল নিজেই ব্লগটির শিরোনাম করেছে "আপনার জন্য গুগল সার্চ করতে দিন", যা অগ্রাধিকারের একটি সূক্ষ্ম বিপরীত।
অতীতে, Google দেখিয়েছিল কোন লিঙ্কগুলি আপনার প্রশ্নের উত্তর দিয়েছে৷ এখন, Google নিজেই আপনার প্রশ্নের উত্তর দিতে AI ব্যবহার করে।
ভুল তথ্য ছড়ানোর দায় উৎস থেকে উদ্ধৃত করার জন্য Google-এর কাছে সরে গেছে। গুগলকে দায়ী করতে হবে।
তথ্য সরবরাহ করার পাশাপাশি এআই অনুসন্ধানের কী সম্ভাবনা রয়েছে?
যেহেতু বিভ্রম ইতিমধ্যেই ভিত্তি, তাই আমাদের এআই অনুসন্ধানকে একটি ভিন্ন কোণ থেকে দেখা উচিত এবং নিজেদেরকে একটি প্রশ্ন জিজ্ঞাসা করা উচিত: আমাদের প্রত্যাশাগুলি কি ভুল?
প্রকৃতপক্ষে, AI ওভারভিউ-এর সমালোচনা হওয়ার আগে, Google CEO পিচাই দ্য ভার্জের সাথে একটি সাম্প্রতিক সাক্ষাত্কারে উল্লেখ করেছিলেন যে "বিভ্রম" সমস্যাটি এখনও সমাধান করা যায়নি, এমনকি এটি বড় ভাষার মডেলগুলির একটি সহজাত বৈশিষ্ট্যও বলা যেতে পারে।
তিনি বিশ্বাস করেন যে বৃহৎ ভাষার মডেলগুলি সত্য বোঝার জন্য সর্বোত্তম চ্যানেল নয়, তবে এর অর্থ এই নয় যে বৃহৎ ভাষার মডেলগুলি অকেজো এবং কালো এবং সাদা চিন্তা করা যুক্তিযুক্ত নয়, উদাহরণস্বরূপ, এটি কবিতা তৈরি করতে এবং অনুসন্ধান প্রবর্তন করতে পারে।
সিইও-এর সাক্ষাৎকার নেওয়া হোক বা I/O কনফারেন্সে, তারা ব্যবহারকারীদের কাছে একটি ধারণা জানাচ্ছেন: AI অনুসন্ধানকে বিদ্যমান ওয়েব পৃষ্ঠাগুলির একটি সাধারণ সারাংশ হিসাবে বিবেচনা করবেন না এমন অনেক জায়গা রয়েছে যেখানে AI উজ্জ্বল হতে পারে।
যাইহোক, AI ওভারভিউ লোকেদের সন্তুষ্ট করতে ব্যর্থ হয়েছে, এবং প্রদর্শনের সাথে তুলনা করে ব্যবহারকারীরা দোষী নয়, বর্তমান AI ওভারভিউ সম্পূর্ণ ফর্মে নেই এবং অনেক ফাংশন এখনও চালু করা হয়নি।
লিজ রিড, Google-এর অনুসন্ধান পরিচালক, I/O এ "মাল্টি-স্টেপ রিজনিং"-এর একটি উদাহরণ দেখিয়েছেন "বোস্টনের সেরা যোগ স্টুডিও, ডিসকাউন্ট তথ্য প্রদর্শন করুন, এবং আমি এখন তিনবার অনুসন্ধান করেছি।" এক সময় যথেষ্ট।
একই সময়ে, এআই ওভারভিউতে ভবিষ্যতে "পরিকল্পনা" করার ক্ষমতাও থাকবে, উদাহরণস্বরূপ, যদি এআইকে তিন দিনের জন্য রাতের খাবারের পরিকল্পনা করতে বলা হয়, ব্যবহারকারীরা সরাসরি একটি রেসিপি পেতে পারেন, মাঝপথে এটি পরিমার্জন করতে পারেন, "নিরামিষাশী" এবং অন্যান্য প্রয়োজনীয়তা যোগ করতে পারেন। , এবং তারপর এটি একটি নথিতে রপ্তানি করুন।
Google-এর ধারণা অন্যান্য AI সার্চ পণ্যের মতোই – অনুসন্ধানগুলিকে আরও ভিজ্যুয়াল, ইন্টারেক্টিভ এবং ব্যক্তিগতকৃত করে, যোগাযোগের জন্য কীওয়ার্ডের পরিবর্তে মানব শব্দ ব্যবহার করে, তথ্য খোঁজার সময় বাঁচায় এবং আরও জটিল এবং নির্দিষ্ট প্রশ্নের উত্তর দেয়।
সিক্রেট টাওয়ার সরলতা, গভীরতা এবং গবেষণার জন্য বিভিন্ন অনুসন্ধান মোড প্রদান করে এমনকি উপস্থাপনা তৈরি করতে গবেষণা মোড রূপরেখা এবং মন মানচিত্রও দিতে পারে।
বিভ্রান্তি সার্চের সুযোগকে নিয়ন্ত্রণ করতে পারে, সমগ্র ইন্টারনেটকে কভার করতে পারে, অথবা সার্চের প্রয়োজন অনুযায়ী এটিকে একাডেমিক পেপার, ইউটিউব এবং রেডডিটে সংকুচিত করতে পারে।
Tiangong একটি পোর্টাল হিসাবে AI অনুসন্ধান ব্যবহার করে, আরও উত্পাদনশীলতা সরঞ্জাম দিয়ে সজ্জিত, এবং AI গতির পাঠ, সঙ্গীত তৈরি এবং অন্যান্য বুদ্ধিমান এজেন্ট প্রদান করে এটি AI অনুসন্ধানের শীর্ষে একটি AIGC সামগ্রী তৈরির প্ল্যাটফর্ম তৈরি করার সমতুল্য।
বেশিরভাগ স্বাভাবিক প্রশ্ন, যেমন আবহাওয়া কেমন, বিনিময় হার কী এবং অফিসিয়াল ওয়েবসাইটে ঝাঁপ দেওয়া আসলে সাধারণ ঐতিহ্যগত অনুসন্ধানের মাধ্যমে উত্তর দেওয়া যেতে পারে।
যাইহোক, তুলনামূলকভাবে জটিল পরিস্থিতিতে, এআই অনুসন্ধানের উচ্চ আশা রয়েছে, এটি ChatGPT এবং অন্যান্য উত্সের চেয়ে বেশি তথ্যের উত্স রয়েছে, এটি যাচাইয়ের জন্য আরও সুবিধাজনক এবং ঐতিহ্যগত অনুসন্ধানের চেয়ে আরও বেশি গবেষণা, সৃষ্টি, পরিকল্পনা এবং বুদ্ধিমত্তা পরিচালনা করতে পারে৷ ঐতিহ্যগত অনুসন্ধানের চেয়ে একটি ভাল বিশ্বকোষ হওয়ার পরিবর্তে, এটি আরও এজেন্টের মতো।
অবশ্যই, পাই যতই আঁকা হোক না কেন, এআই অনুসন্ধানের বিভ্রম এখনও বিরক্তিকর। এই কারণে, কিছু লোক পরামর্শ দেয় যে নিরাপদে থাকার জন্য, জেনারেটিভ এআই ব্যবহার করুন, কেবল সারাংশটি দেখুন না এবং তারপরে ঐতিহ্যগত Google অনুসন্ধানের মাধ্যমে এটি পরীক্ষা করুন। কথায় বলে, পরিস্থিতি বদলায়, কিন্তু বড় ভাই এখনও বড় ভাই।
# aifaner এর অফিসিয়াল WeChat পাবলিক অ্যাকাউন্ট অনুসরণ করতে স্বাগতম: aifaner (WeChat ID: ifanr) যত তাড়াতাড়ি সম্ভব আপনাকে আরও উত্তেজনাপূর্ণ সামগ্রী সরবরাহ করা হবে।