ওপেনএআই এমন একটি ভূমিকার উপর জোর দিচ্ছে যা এআই ঝুঁকিগুলিকে ছড়িয়ে পড়ার আগেই থামিয়ে দেবে। কোম্পানিটি প্রস্তুতির প্রধান নামে একটি নতুন সিনিয়র পদ পোস্ট করেছে, এই পদটি উন্নত এআই চ্যাটবট থেকে উদ্ভূত সবচেয়ে গুরুতর বিপদগুলি সনাক্তকরণ এবং হ্রাস করার উপর দৃষ্টি নিবদ্ধ করে। দায়িত্বের পাশাপাশি $555,000 এবং ইকুইটির একটি শিরোনাম-আকর্ষণীয় ক্ষতিপূরণ প্যাকেজ আসে।
উদ্বোধনের ঘোষণায় একটি পাবলিক পোস্টে, স্যাম অল্টম্যান এটিকে "একটি গুরুত্বপূর্ণ সময়ে একটি গুরুত্বপূর্ণ ভূমিকা" বলে অভিহিত করেছেন, উল্লেখ করেছেন যে যদিও এআই মডেলগুলি এখন "অনেক দুর্দান্ত জিনিস" করতে সক্ষম, তারা "কিছু বাস্তব চ্যালেঞ্জও উপস্থাপন করতে শুরু করেছে।"
প্রস্তুতি প্রধান আসলে কী করবেন
এই পদে অধিষ্ঠিত ব্যক্তি চরম কিন্তু বাস্তবসম্মত AI ঝুঁকির উপর মনোনিবেশ করবেন, যার মধ্যে রয়েছে অপব্যবহার, সাইবার নিরাপত্তা হুমকি, জৈবিক উদ্বেগ এবং বৃহত্তর সামাজিক ক্ষতি। স্যাম অল্টম্যান বলেন, ওপেনএআই-এর এখন "আরও সূক্ষ্ম বোঝাপড়া" প্রয়োজন যে কীভাবে সুবিধাগুলি ব্লক না করে ক্রমবর্ধমান ক্ষমতার অপব্যবহার করা যেতে পারে।
তিনি কাজটি নিয়ে কোনও গোপন কথা বলেননি। "এটি একটি চাপপূর্ণ কাজ হবে," অল্টম্যান লিখেছেন, আরও বলেছেন যে যে কেউ এটি গ্রহণ করবে সে "প্রায় তৎক্ষণাৎ গভীর প্রান্তে ঝাঁপিয়ে পড়বে।"
ওপেনএআই-এর জন্য এই নিয়োগ একটি সংবেদনশীল মুহূর্তে এসেছে, যা গত বছর ধরে এআই নিরাপত্তার উপর ক্রমবর্ধমান নিয়ন্ত্রক তদন্তের মুখোমুখি হয়েছে। চ্যাটজিপিটি-র মিথস্ক্রিয়াকে বেশ কয়েকটি আত্মহত্যার ঘটনার সাথে যুক্ত করার অভিযোগের মধ্যে এই চাপ আরও তীব্র হয়েছে, যা মানসিক স্বাস্থ্যের উপর এআই-এর প্রভাব সম্পর্কে বিস্তৃত উদ্বেগ প্রকাশ করেছে।
একটি ক্ষেত্রে, ১৬ বছর বয়সী এক কিশোরের বাবা-মা ওপেনএআই-এর বিরুদ্ধে মামলা করেছেন অভিযোগ করার পর যে চ্যাটবট তাদের ছেলেকে নিজের আত্মহত্যার পরিকল্পনা করতে উৎসাহিত করেছে, যার ফলে কোম্পানিটি ১৮ বছরের কম বয়সী ব্যবহারকারীদের জন্য নতুন সুরক্ষা ব্যবস্থা চালু করেছে ।
আরেকটি মামলায় দাবি করা হয়েছে যে ChatGPT একটি পৃথক মামলায় ভৌতিক বিভ্রান্তিকে ইন্ধন জুগিয়েছে যা হত্যা এবং আত্মহত্যায় পরিণত হয়েছে, যার ফলে OpenAI বলেছে যে এটি যন্ত্রণা সনাক্তকরণ, কথোপকথন কমানো এবং ব্যবহারকারীদের বাস্তব-বিশ্বের সহায়তার দিকে পরিচালিত করার আরও ভাল উপায় নিয়ে কাজ করছে।
ওপেনএআই-এর নিরাপত্তার উদ্যোগ এমন এক সময়ে এসেছে যখন লক্ষ লক্ষ মানুষ চ্যাটজিপিটির উপর মানসিক নির্ভরতার কথা জানিয়েছে এবং নিয়ন্ত্রকরা শিশুদের জন্য ঝুঁকিগুলি পরীক্ষা করছে , যা কেবল প্রকৌশলের বাইরেও প্রস্তুতি কেন গুরুত্বপূর্ণ তা তুলে ধরে।
"OpenAI ChatGPT ঝুঁকি মোকাবেলা করার জন্য কাউকে নিয়োগ করতে চায় যা ভবিষ্যদ্বাণী করা যায় না" পোস্টটি প্রথমে ডিজিটাল ট্রেন্ডসে প্রকাশিত হয়েছিল।