পছন্দের সেলিব্রেটিদের সাক্ষাৎ পাওয়ার লোভ কম-বেশি প্রায় প্রত্যেকেরই থাকে। এই যেমন ধরুন একদিন আপনার কাছে ‘কৌন বানেগা কাড়োরপাতি’ থেকে অমিতাভ বচ্চনের ফোন এলো, তাহলে নিশ্চিত আনন্দে আত্মহারা হয়ে যাবেন! এক্ষেত্রে সর্বাধিক সম্ভাবনা আছে, লাইনের ওপারে আসল বিগ-বি নয় বরং তার কণ্ঠস্বর নকল করে কোনো ছদ্মবেশী কথা বলছে। এমনটা বলার কারণ, মানুষকে বিভ্রান্ত এবং প্রতারিত করতে একশ্রেণীর অসৎ ব্যক্তি বর্তমানে একটি বিশেষ এআই (AI) টুল ব্যবহার করে সেলিব্রিটিদের কণ্ঠস্বর তৈরি করছে। রিপোর্ট অনুযায়ী, ElevenLabs নামের একটি স্পিচ এআই স্টার্টআপ সম্প্রতি তাদের অ্যাপে একটি নতুন এআই (AI) টুলের বিটা সংস্করণ রিলিজ করেছে। এই ফিচারটি ব্যবহারকারীদের টেক্সট-টু-স্পিচ বা কারো কণ্ঠস্বর নকল করার জন্য কৃত্রিম বা আর্টিফিশিয়াল ভয়েস তৈরি করার সুবিধা দেয়। কিন্তু কোম্পানিটি যে উদ্দেশ্যে এই বিশেষ ফিচার নিয়ে এসেছে, তা একদমই চরিতার্থ হচ্ছে না। উল্টে কিছু মানুষ জালিয়াতির উদ্দেশ্যে এই এআই টুলটির অপব্যবহার করছে।
ElevenLabs অ্যাপের AI টুল মানুষকে প্রতারিত করার জন্য অপব্যবহার করা হচ্ছে
ইলেভেনল্যাবস স্বয়ং এই সমস্যার কথা স্বীকার করে টুইটারে পোস্ট করেছে যে, নতুন এআই ভয়েস মিমিক্রি টুলটি চালু হওয়ার পর থেকেই ভয়েস ক্লোনিংয়ের সংখ্যা ক্রমবর্ধমান বৃদ্ধি হচ্ছে। আর তাই, কোম্পানিটি টুইটার ব্যবহারকারীদের কাছে থেকে কীভাবে ভয়েস ক্লোনিং বন্ধ করা যায় সেই সম্পর্কিত সমাধান এবং প্রতিক্রিয়া জানতে চেয়েছে। এই বিষয়ে ইলেভেনল্যাবসের টুইটে লিখেছে যে – “ক্রেজি উইকএন্ড – আমাদের বিটা প্ল্যাটফর্ম ব্যবহার করে দেখার জন্য সবাইকে ধন্যবাদ। যদিও, আমাদের তৈরি প্রযুক্তির ইতিবাচক ব্যবহারের পাশাপাশি অত্যাধিক অপব্যবহারও হচ্ছে। এআই টুলটি প্রয়োগ করে ভয়েস ক্লোনিংয়ের সংখ্যা ক্রমবর্ধমান উর্দ্ধমুখী হতে দেখতে পাচ্ছি আমরা। আর তাই এই বিষয়ে টুইটার কমিউনিটির প্রতিক্রিয়ার আমরা চাই।”
যদিও ইলেভেনল্যাবস এই টুলটি কিভাবে অপব্যবহার করা হয়েছে তা উল্লেখ করেনি তাদের সাম্প্রতিক টুইট। তবে জানা যাচ্ছে, এই টুল ব্যবহার করে সেলিব্রিটি বা তারকাদের মতো হুবহু কণ্ঠস্বর নকল করে একাধিক ক্লিপ তৈরি করা হয়েছে। মাদারবোর্ড (Motherboard) নামক একটি ওয়েবসাইট আরও দাবি করেছে যে, তারা হ্যারি পটার খ্যাত অভিনেত্রী এমা ওয়াটসনের (Emma Watson) ভয়েস নকল করা একটি ছদ্মবেশী ক্লিপ খুঁজে পেয়েছে। এই ভাইরাল ক্লিপটিতে, অভিনেত্রীকে হিটলার রচিত ‘মেইন ক্যামফ’ (Mein Kampf) বইটি পড়তে শোনা গেছে। রিপোর্ট অনুসারে, ইলেভেনল্যাবসের এআই টুলটির মাধ্যমে শুধুমাত্র সেলিব্রিটিদের কণ্ঠস্বর অনুকরণ করা হচ্ছে না, পাশাপাশি – মানুষের মধ্যে হোমোফোবিক, ট্রান্সফোবিক, হিংসাত্মক এবং বর্ণবাদী অনুভূতি উস্কানি দিতেও এই টুলটির অপব্যবহার করা হচ্ছে।
যাইহোক গতকাল রাতে আরেকটি টুইটে, ভয়েস ক্লোনিংয়ের বিরুদ্ধে লড়াই করার জন্য ইলেভেনল্যাবস একটি বিশেষ ভ্যারিফিকেশন প্রক্রিয়ার সাহায্য নেবে বলে জানিয়েছে। যার মাধ্যমে, ব্যবহারকারীকে ভয়েস ক্লোনিং ফিচার এনাবল করার জন্য প্রথমে পেমেন্ট বিষয়ক তথ্য প্রদান বা তার আইডি যাচাই করতে হবে। একই সাথে, প্রতারণা রুখতে প্রোমোটেড টেক্সট সহ ক্লিপ স্যাম্পল বা নমুনা জমা দিয়ে ভয়েসের কপিরাইট যাচাই করনো হবে বলেও জানিয়েছে কোম্পানি। এছাড়া, ইলেভেনল্যাবসের প্রতিষ্ঠাতা মাতি স্ট্যানিসজেউস্কি (Mati Staniszewski) -এর বিবৃতি অনুসারে, আলোচ্য সফ্টওয়্যারে ভয়েস ব্যাব সম্পূর্ণভাবে ড্রপ করার এবং প্রতিটি ক্লোনিং রিকোয়েস্ট ম্যানুয়ালি যাচাই করার পরিকল্পনাও করা হচ্ছে।
দেখতে গেলে এআই টুল একাধিক কার্যকরী সুবিধা প্রদান করে। তবে একশ্রেণীর অসৎ ব্যক্তি, প্রযুক্তির ইতিবাচক দিককে কিভাবে নেতিবাচক কাজে ব্যবহার করা যায় তার ফন্দি ফাঁদতে ব্যস্ত থাকে। আর এমনই কিছু ব্যক্তিদের জন্য ইলেভেনল্যাবস বিকশিত এআই ফিচারটি বর্তমানে মানুষ ঠকানোর টুলে পরিণত হয়েছে। স্ক্যামিংয়ের পাশাপাশি মিথ্যা খবর ছড়ানো বা পরিচয় চুরি করার মতো উদ্দেশ্য পূরণের জন্যও এই টেক্সট-টু-স্পিচ টুল ব্যবহার করছে তারকাদের কণ্ঠস্বরের নেপথ্যে থাকা ছদ্মবেশী প্রতারকরা। তাই বর্তমানের প্রযুক্তি-আবৃত সময়ে জালিয়াতি ও ভুয়ো খবরের ফাঁদে না পড়তে চাইলে বিশেষ সতর্ক থাকুন…