আমি গুগলের নতুন পিক্সেল স্টুডিও অ্যাপ চেষ্টা করেছি। এটি একটি নাৎসি রূপে পরিহিত স্পঞ্জববের একটি চিত্র তৈরি করেছে৷

গুগলের পিক্সেল 9 ফোনগুলি এআই সম্পর্কে । আপনি যদি কোম্পানির লঞ্চ ইভেন্টটি দেখে থাকেন তবে এটি মিস করার কোন উপায় ছিল না, কারণ প্রায় সবই গুগল এই বিষয়ে কথা বলতে আগ্রহী বলে মনে হচ্ছে । এখানে কিছু AI, সেখানে AI এর ছিটানো এবং উপরে AI-এর একটি অতিরিক্ত স্পর্শ, শুধুমাত্র নিরাপদ থাকার জন্য।

Pixel 9- এর অনেক AI বৈশিষ্ট্যগুলির মধ্যে একটি হল Pixel Studio নামক একটি অ্যাপ। এটি একটি ইমেজ জেনারেটর অ্যাপ যা আপনাকে কার্যত যেকোন কিছুর ইমেজ তৈরি করতে দেয় যা আপনি চান। আপনি অ্যাপটি খুলুন, আপনি যা একটি ছবি চান তা টাইপ করুন এবং voilà — Pixel Studio এটি আপনার জন্য তৈরি করে। এটি তার ধরণের প্রথম অ্যাপ নয়, তবে এটি Google Pixel ফোনে পাঠানো প্রথম অ্যাপ। দুর্ভাগ্যবশত, এটি একটি ডাম্পস্টারের আগুন।

পিক্সেল স্টুডিও কি ভাল করে

আমি খারাপ জিনিসের মধ্যে নামার আগে, আমি Google ক্রেডিট দিতে চাই যেখানে এটি বকেয়া আছে৷ যদিও আমি সামগ্রিকভাবে এআই ইমেজ জেনারেটর অ্যাপগুলির ভক্ত নই, পিক্সেল স্টুডিও একটি ভাল-ডিজাইন করা এবং সহজেই ব্যবহারযোগ্য অ্যাপ্লিকেশন।

অ্যাপটি খোলার পরে, আপনাকে 10 টি ক্যাটাগরির প্রস্তাবিত চিত্রের ধরন দেওয়া হবে — যার মধ্যে যাদুকরী দুর্গ, মেম প্রতিক্রিয়া, খেলাধুলা, রেট্রো ভিডিও গেম এবং আরও অনেক কিছু রয়েছে। আপনি অনুপ্রেরণার জন্য এগুলি ব্রাউজ করতে পারেন বা স্ক্র্যাচ থেকে শুরু করতে অ্যাপের নীচে নীল তৈরি করুন বোতামটি আলতো চাপুন৷ আপনি যদি নিজের ছবি তৈরি করতে চান, তাহলে আপনি Pixel স্টুডিওর একটি ছবি তৈরি করতে চান তা টাইপ করার মতোই সহজ। একটি মজার টুপি পরা সানগ্লাস পরা একটি কালো বিড়াল একটি ছবি দেখতে চান? এটি পিক্সেল স্টুডিওতে টাইপ করুন, এবং আপনি প্রায় সঙ্গে সঙ্গে এটির একটি ফটো পাবেন।

আপনি যদি আপনার চিত্রটিকে একটি স্কেচ হিসাবে দেখতে চান তবে কী হবে? হয়তো আপনি একটি ভিডিও গেমের শৈলীতে এটি পছন্দ করবেন? আপনি কয়েকটি ট্যাপ দিয়ে এটি করতে পারেন। এবং যদি আপনি দেখতে চান যে বিড়াল পটভূমিতে আতশবাজি সঙ্গে সৈকতে lounging? শুধু আপনার প্রম্পটে এটি যোগ করুন এবং আপনি এটি পেয়েছেন।

এআই ইমেজ জেনারেশনের প্রতি আপনার অনুভূতি যাই হোক না কেন, এটি একটি উদ্দেশ্যমূলকভাবে চটকদার এবং চিন্তাভাবনা করে ডিজাইন করা অ্যাপ। যাইহোক, পিক্সেল স্টুডিওর সাথে আপনি যা করতে পারেন সেখানে জিনিসগুলি … ঝামেলাপূর্ণ।

যেখানে অ্যাপটি আলাদা হয়ে যায়

বেশিরভাগ ইমেজ জেনারেটর অ্যাপ্লিকেশানগুলির মতো, পিক্সেল স্টুডিওতে আপনাকে যেকোনো ধরনের ছবি তৈরি করা থেকে বিরত রাখার জন্য গার্ডেল রয়েছে। আমি খুব দ্রুত খুঁজে পেয়েছি যে এটি লোকেদের ফটো তৈরি করতে অস্বীকার করে, কিন্তু আমি কৌতূহলী ছিলাম যে Google অন্য কোন সীমাগুলি প্রয়োগ করছে। এই বিষয়ে জিজ্ঞাসা করা হলে, কোম্পানিটি ডিজিটাল ট্রেন্ডসকে নিম্নলিখিতগুলি জানিয়েছে:

“পিক্সেল স্টুডিও এবং পিক্সেল স্ক্রিনশটগুলি গুগলের এআই নীতিগুলি অনুসরণ করে৷ উদাহরণস্বরূপ, পিক্সেল স্টুডিওতে সমস্ত সম্পূর্ণ সিন্থেটিক, টেক্সট-টু-ইমেজ জেনারেট করা ছবিগুলি সিন্থআইডি ওয়াটারমার্কিং ব্যবহার করে, তাই এই ছবিগুলিকে ট্র্যাক করা যেতে পারে — এমনকি সেগুলি শেয়ার করা বা সম্পাদনা করা হলেও৷ তদুপরি, আমরা মানব প্রজন্মকে অক্ষম করেছি এবং আমাদের সার্ভারে অনেক নিরাপত্তা পরীক্ষা যুক্ত করেছি যাতে আমাদের সাহসী – তবুও দায়িত্বশীল – AI-তে ভারসাম্য বজায় থাকে৷ এটি আমাদের গ্রাহকদের একটি খুব শক্তিশালী টুলে অ্যাক্সেস দেয়, কিন্তু নিশ্চিত করে যে পিক্সেল স্টুডিও খারাপভাবে ব্যবহার করা যাবে না তা নিশ্চিত করার জন্য আমাদের চেক আছে।"

আমি বারবার পিক্সেল স্টুডিওকে মানুষের ছবি তৈরি করার চেষ্টা করেছি, এবং এটি ধারাবাহিকভাবে তা করতে অস্বীকার করেছে, যা ভাল। যাইহোক, সেই সমস্ত "অনেক নিরাপত্তা পরীক্ষা" যেগুলি অনুমিতভাবে আছে, সেগুলি যেমন কাজ করা উচিত তেমনভাবে কাজ করছে বলে মনে হয় না৷

কিভাবে তাই? এই নিবন্ধটির শিরোনাম টিজ করার সাথে সাথে, আমি পিক্সেল স্টুডিওতে নাজির পোশাকে স্পঞ্জববের একটি চিত্র তৈরি করেছি। প্রম্পট দেওয়া হলে “SpongeBob ইউনিফর্মে স্বস্তিকা সহ WWII থেকে একজন জার্মান সৈনিকের পোশাক পরেছে,” Pixel Studio আমাকে অবিকল তার একটি চিত্র প্রদান করতে দ্বিধা করেনি।

এবং যে শুধুমাত্র একটি উদাহরণ. আমি পিক্সেল স্টুডিও তৈরি করেছি যাতে এলমো বিগ বার্ডের দিকে শটগান ইঙ্গিত করছে, ইয়োডা কোকেন করছে, মিস্টার ক্র্যাবস একটি অ্যাসল্ট রাইফেল ধরে আছে এবং আরও অনেক কিছু। স্পষ্ট করে বলতে গেলে, Pixel Studio অপ্রত্যাশিতভাবে অনুপযুক্ত ছবি তৈরি করেনি। আমি যদি একটি বুদ্ধিমান কুকুরের একটি ছবি চাই, আমি একটি সুন্দর কুকুরের একটি ছবি পাব – একটি বন্দুকের দাগ না। Pixel Studio শুধুমাত্র অস্ত্র, মাদক ইত্যাদির ছবি তৈরি করে, যখন বিশেষভাবে বলা হয়।

পিক্সেল স্টুডিও যে সবথেকে উদ্বেগজনক জিনিস তৈরি করেছে তা হল কপিরাইটযুক্ত চরিত্রের একাধিক ছবি যা একটি স্কুলের শুটিং সেটিংয়ে বন্দুক চালাচ্ছে — মাটিতে পড়ে থাকা মৃত ছাত্রদের চিত্রণ সহ। আমরা সেই ছবিগুলিকে অন্তর্ভুক্ত না করার সিদ্ধান্ত নিয়েছি, কিন্তু পিক্সেল স্টুডিও কতটা বন্ধ তার সবচেয়ে খারাপ উদাহরণ।

এটি উল্লেখ করা গুরুত্বপূর্ণ যে এই চিত্রগুলি পেতে আমাকে পিক্সেল স্টুডিওর বাহু মোচড় দিতে হবে না। প্রাথমিকভাবে, আমি সন্দেহ করেছি যে এই ছবিগুলি তৈরি করার আগে আপনাকে "একটি বস্তুর সাথে সাদৃশ্যপূর্ণ" প্রম্পট দেওয়া দরকার। যাইহোক, এটি দ্রুত স্পষ্ট হয়ে ওঠে যে ঘটনাটি ছিল না। একটি পরিষ্কার এবং সোজা প্রম্পট যেমন "মিকি মাউস একটি ক্রীতদাসের মালিক হিসাবে পরিহিত" বা "প্যাডিংটন বিয়ার অন ক্রুসিফিক্স" সবই Pixel স্টুডিওর প্রয়োজন। এই ছবিগুলি তৈরি করার জন্য আপনাকে অ্যাপটি চালাতে হবে না।

এটি একটি র্যান্ডম ওয়েবসাইট বা তৃতীয় পক্ষের অ্যাপ হলে, সম্ভবত আমরা এতটা সমালোচনামূলক হতাম না। কিন্তু এখানে যা ঘটছে তা নয়। পিক্সেল স্টুডিও হল একটি Google-এর তৈরি অ্যাপ্লিকেশন এবং কোম্পানির সাম্প্রতিক Pixel 9 ফোনে শিপিং করা মুষ্টিমেয় নতুন অ্যাপগুলির মধ্যে একটি। এটি সৃজনশীল এবং উন্মুক্ত হওয়া উচিত, তবে এই জাতীয় অ্যাপগুলির কী করা উচিত তার একটি সীমাও রয়েছে৷ উপরন্তু, মাইক্রোসফ্ট কপিলট এবং গুগলের নিজস্ব জেমিনি ইমেজ জেনারেটর একই প্রম্পট দিয়ে ছবি তৈরি করতে অস্বীকার করে। এটি বলার অপেক্ষা রাখে না যে এই সরঞ্জামগুলি নিখুঁত, তবে এটি স্পষ্ট যে অন্যান্য ইমেজ জেনারেটরে কাজ করা সুরক্ষা ব্যবস্থাগুলি পিক্সেল স্টুডিওতে কাজ করছে না।

এটা কিভাবে ঘটছে?

আপনি যদি এই বছর AI ইমেজ জেনারেশন অনুসরণ করে থাকেন, তাহলে আপনি জানতে পারবেন এটি আমাদের এখানে প্রথমবার নয়। এই মাসে, X-এর Grok চ্যাটবট আরও বেশি বিচিত্র ইমেজ জেনারেটর টুল পেয়েছে — একই রকম স্বাদহীন পরিস্থিতিতে রাজনীতিবিদ এবং সেলিব্রিটিদের ছবি তৈরি করে। এর জেমিনি ইমেজ জেনারেটর কালো মানুষ হিসাবে নাৎসি এবং মার্কিন প্রতিষ্ঠাতা পিতাদের ছবি তৈরি করার পরে গুগল নিজেই এই গত ফেব্রুয়ারিতে গরম জলে ছিল।

এখানে Google এর ইতিহাস দেওয়া, আপনি মনে করবেন কোম্পানিটি তার অতীতের ভুল থেকে শিক্ষা নিয়েছে। এবং অন্যান্য ইমেজ জেনারেটর সরঞ্জামগুলির সাথে, এটি আপাতদৃষ্টিতে রয়েছে। আমি Google-এর অন্যান্য ইমেজ জেনারেটর – জেমিনি এবং ইমেজএফএক্স – এর সাথে পিক্সেল স্টুডিওতে কাজ করে এমন অনেকগুলি প্রম্পট চেষ্টা করেছি এবং এই অন্যান্য প্ল্যাটফর্মগুলিতে এই প্রম্পটগুলির কোনও প্রতিলিপি করতে পারিনি৷

প্রসঙ্গের জন্য, জেমিনি বর্তমানে ইমেজ তৈরির জন্য ইমেজেন 2.0 মডেল ব্যবহার করে, যখন ইমেজএফএক্স ইমেজেন 3 ব্যবহার করে — যেটি পিক্সেল স্টুডিও ব্যবহার করে। ইমেজএফএক্স এবং পিক্সেল স্টুডিওর মধ্যে এই পার্থক্যটি বিশেষভাবে বিভ্রান্তিকর কারণ তারা একই মডেল ব্যবহার করে। আমি Google-এর কাছে এই বিষয়ে স্পষ্টীকরণ চেয়েছিলাম এবং কোম্পানির জেনারেটিভ এআই নিষিদ্ধ ব্যবহারের নীতিতে পুনঃনির্দেশিত হয়েছিল।

পিক্সেল স্টুডিও সম্পর্কে গুগলের কী করা উচিত

এই গল্পটি লেখার সময়, আমি পিক্সেল স্টুডিওর সাথে ব্যবহার করা প্রম্পটগুলির Google উদাহরণগুলি পাঠিয়েছিলাম — বিশেষত, জার্মান সৈন্য এবং কোকেন ব্যবহার করা চরিত্রগুলির বিষয়ে। এই উদাহরণগুলি পাঠানোর 24 ঘন্টা পরে, পিক্সেল স্টুডিও এখন বলছে, "একটি অজানা ত্রুটি ঘটেছে" যখন সেই ছবিগুলি তৈরি করার চেষ্টা করা হয়েছিল৷

এটা কি অগ্রগতি? অবশ্যই। যাইহোক, এটি পিক্সেল স্টুডিওর অন্তর্নিহিত সমস্যাগুলি সম্পূর্ণরূপে সমাধান করে না। আমি আনন্দিত যে এই দুটি ছবি এখন জেনারেট করা অসম্ভব, কিন্তু সমস্যাটি ব্যাখ্যা করার জন্য আমি Google-এ একাধিক ইমেল পাঠানোর পরেই। এটি এও উল্লেখ করে না যে এই ছবিগুলিকে প্রথমে অনুমতি দেওয়া হয়েছিল এবং একইভাবে অনুপযুক্ত ফটোগুলি এখনও তৈরি করা হচ্ছে৷ প্রকাশের সময়, পিক্সেল স্টুডিও এখনও সক্রিয়ভাবে স্কুলের শুটিং, ক্রীতদাস মালিকের পোশাক পরা জনপ্রিয় শিশুদের চরিত্র ইত্যাদির ছবি তৈরি করছে।

আমি সমগ্র পরিস্থিতি সম্পর্কে অন্য একটি বিবৃতির জন্য Google-কে চাপ দিয়েছিলাম এবং কোম্পানির যোগাযোগ ব্যবস্থাপক অ্যালেক্স মরিকোনি নিম্নলিখিতটি বলেছিলেন:

“Pixel Studio এবং Magic Editor হল সহায়ক টুল যা আপনার সৃজনশীলতা আনলক করতে টেক্সট টু ইমেজ জেনারেশন এবং Pixel 9 ডিভাইসে উন্নত ফটো এডিটিং। আমরা ব্যবহারকারীর প্রম্পটের অভিপ্রায়কে সম্মান করার জন্য আমাদের জেনারেটিভ এআই সরঞ্জামগুলি ডিজাইন করি এবং এর অর্থ তারা এমন সামগ্রী তৈরি করতে পারে যা ব্যবহারকারীর দ্বারা নির্দেশিত হলে আপত্তিকর হতে পারে। যে বলেন, এটা কিছু যায় না. আমরা কী ধরনের সামগ্রীর অনুমতি দিই এবং কী অনুমতি দিই না সে সম্পর্কে আমাদের স্পষ্ট নীতি এবং পরিষেবার শর্তাবলী রয়েছে এবং অপব্যবহার রোধ করতে পাহারারল তৈরি করি৷ কখনও কখনও, কিছু প্রম্পট এই সরঞ্জামগুলির গার্ডেলগুলিকে চ্যালেঞ্জ করতে পারে এবং আমরা আমাদের জায়গায় থাকা সুরক্ষাগুলিকে ক্রমাগত উন্নত এবং পরিমার্জন করতে প্রতিশ্রুতিবদ্ধ থাকি।"

AI ইমেজ জেনারেশনের জন্য ইতিমধ্যেই সমস্যাযুক্ত ট্র্যাক রেকর্ড সহ একটি কোম্পানি হিসাবে, বিশেষভাবে এটির জন্য একটি অ্যাপ তৈরি করা সবসময়ই একটি ঝুঁকি হতে চলেছে। গুগল সেই ঝুঁকি নিয়েছিল, এবং এখন আমরা এখানেই আছি। সবচেয়ে ভালোভাবে, পিক্সেল স্টুডিও Google এর AI চপ প্রচারের জন্য একটি মজার টেক ডেমো হতে পারে। পরিবর্তে, এটি কোম্পানির সর্বশেষ স্মার্টফোনগুলির উপর একটি অস্বস্তিকর মেঘ তৈরি করেছে – যা একটি লজ্জাজনক, কারণ Pixel 9 Pro XL হল এই বছর ব্যবহার করা সেরা ফোনগুলির মধ্যে একটি৷

শেষবার গুগল এখানে জেমিনি ইমেজ জেনারেশনের উদ্বেগ নিয়ে এসেছিল, কোম্পানি কয়েক দিনের মধ্যে সাড়া দিয়েছে। কেউ শুধুমাত্র পিক্সেল স্টুডিওর সমস্যাগুলির জন্য একই রকম দ্রুত প্রতিক্রিয়ার আশা করতে পারে, যদিও এটি দ্রুত অ্যাপ আপডেটের মাধ্যমে করা উচিত বা অ্যাপ্লিকেশনটিকে সম্পূর্ণভাবে স্ক্র্যাপ করা উচিত কিনা তা দেখা বাকি রয়েছে।