Hallucination মানে কী
ধরুন আপনি ChatGPT-কে জিজ্ঞেস করলেন আপনার উপজেলার একটা নির্দিষ্ট স্কুলের প্রতিষ্ঠাসাল কত। উত্তর এলো সাথে সাথে, একটা নির্দিষ্ট সাল সহ, কোনো দ্বিধা ছাড়া। আপনি খোঁজ নিয়ে দেখলেন সালটা ভুল।
AI মিথ্যা বলেনি, কারণ মিথ্যা বলতে হলে সত্যটা জানতে হয়। সে বানিয়েছে। এই বানিয়ে বলাকেই বলে Hallucination।
শব্দটা বাংলায় "মায়া" বা "মতিভ্রম" বললে ভুল বোঝায়, কারণ এখানে কোনো বিভ্রান্তি ঘটছে না। বরং AI ঠিক যা করার কথা তাই করছে, শুধু ফলটা বাস্তবের সাথে মিলছে না। কারণটা বুঝলে ভুল ধরার কাজও সহজ হয়ে যাবে।
মূল কারণ, সত্য নয় বরং মানানসই শব্দ
AI-এর ভেতরে সত্য-মিথ্যা ভেরিফাইয়ের কোনো ব্যবস্থা নেই।
Model যা করে তা হলো, আপনার লেখাটা দেখে হিসাব করে বের করে এর পরে কোন শব্দটা সবচেয়ে মানানসই। তারপর সেটা বসিয়ে আবার একই হিসাব করে, এভাবে শব্দের পর শব্দ জুড়ে উত্তর দাঁড়িয়ে যায়।
এখন খেয়াল করুন। "১৯৭২ সালে প্রতিষ্ঠিত" বাক্যটা যতটা মানানসই শোনায়, "১৯৬৮ সালে প্রতিষ্ঠিত"ও ঠিক ততটাই মানানসই শোনায়। ভাষার হিসাবে দুটোর মধ্যে কোনো পার্থক্য নেই। পার্থক্যটা বাস্তবে, আর বাস্তবের সাথে Model-এর সরাসরি কোনো যোগাযোগ নেই।
এখান থেকেই সবচেয়ে জরুরি কথাটা আসে। AI-এর কাছে সঠিক উত্তর আর বানানো উত্তর একই প্রসেসে তৈরি হয়। তাই উত্তরের সুর, আত্মবিশ্বাস বা গোছানো ভাব দেখে সত্যতা বোঝার কোনো উপায় নেই। এটা মানুষের অভ্যাসের ঠিক উল্টো, কারণ মানুষ দ্বিধায় পড়লে আমরা তার গলায় সেটা টের পাই।
Model-এর ভেতরে তথ্য কীভাবে থাকে
আরেকটু গভীরে গেলে ব্যাপারটা আরও পরিষ্কার হয়।
Model-এর ভেতরে কোনো টেবিল বা লিস্ট নেই যেখানে লেখা আছে "অমুক স্কুল, প্রতিষ্ঠা ১৯৭২"। ভেতরে আছে কেবল বিলিয়ন বিলিয়ন সংখ্যা, যেগুলো Training-এর সময় একটু একটু করে ঠিক হয়েছে। তথ্য ওখানে আলাদা করে জমা নেই, ছড়িয়ে আছে।
একটা তুলনা দিই। বহুদিন আগে পড়া একটা বইয়ের কথা মনে করার চেষ্টা করুন। মূল গল্পটা আপনার মনে আছে, চরিত্রের স্বভাব মনে আছে, কিন্তু কোন অধ্যায়ে কী ছিল বা কোন পেজে কোন বাক্য, তা নেই। আপনি যদি জোর করে বলতে যান, আপনি আন্দাজ করবেন।
Model-এর অবস্থা এর কাছাকাছি, একটা পার্থক্য সহ। আপনি অন্তত টের পান যে আপনি আন্দাজ করছেন। Model সেটা টের পায় না, কারণ তার কাছে "মনে আছে" আর "বানিয়ে বলছি" দুটোই একই হিসাব।
এই কারণেই একটা নিয়ম প্রায় সবসময় খাটে। ধারণা ও ব্যাখ্যায় সে নির্ভরযোগ্য, নির্দিষ্ট সংখ্যা, তারিখ ও নামে নয়। "সুদ কীভাবে কাজ করে" ভালো বোঝাবে, "গত বছর সুদের হার কত ছিল" আন্দাজ করবে।
সংখ্যা আর গোনার কাজে সে কেন দুর্বল
আরেকটা মজার কারণ আছে, যেটা জানলে অনেক অদ্ভুত ভুল বোঝা যায়।
AI আস্ত শব্দ দেখে না, দেখে Token, মানে লেখার ছোট ছোট টুকরো। একটা শব্দ কখনো এক টুকরো, কখনো দুই বা তিন টুকরো। অক্ষর জিনিসটা তার চোখেই পড়ে না।
তাই "এই লেখায় কতগুলো শব্দ আছে" বা "এই শব্দে কয়টা 'র' আছে" ধরনের প্রশ্নে সে হাস্যকর ভুল করে। সে গুনছে না, সে অনুমান করছে গোনার ফল দেখতে কেমন হওয়া উচিত।
একই ব্যাপার বড় অঙ্কের হিসাবেও। ৪৩৭ গুণ ২৮ করতে গিয়ে সে ধাপে ধাপে হিসাব করে না, বরং এমন একটা সংখ্যা বসায় যেটা ফল হিসেবে মানানসই দেখায়। ছোট অঙ্কে প্রায়ই মিলে যায়, বড় অঙ্কে মেলে না।
সমাধানটা সহজ। হিসাবের কাজ ক্যালকুলেটর বা স্প্রেডশিটে করুন, আর ফলটা ব্যাখ্যা করানোর কাজ AI-কে দিন। এই ভাগাভাগিতে দুই পক্ষই যা ভালো পারে তাই করে।
আরও যেসব কারণে ভুল বাড়ে
Training শেষ হওয়ার তারিখ। প্রতিটা Model একটা নির্দিষ্ট সময় পর্যন্ত তথ্য দিয়ে তৈরি, একে বলে Knowledge cutoff। তার পরের ঘটনা সে জানে না, কিন্তু জানে না বলে থেমে যায় না, আন্দাজ করে বলে দেয়।
বাংলা ও বাংলাদেশ নিয়ে তথ্য কম। ইন্টারনেটে ইংরেজি লেখার তুলনায় বাংলা লেখা অনেক কম, আর বাংলাদেশের স্থানীয় বিষয়ে লেখা আরও কম। যেখানে তথ্য পাতলা, সেখানে অনুমানের অংশ বেশি। তাই দেশের ভেতরের নির্দিষ্ট প্রশ্নে ভুলের হার লক্ষণীয়ভাবে বেশি।
অস্পষ্ট প্রশ্ন। প্রশ্ন যত ধোঁয়াশা, AI-কে তত বেশি ফাঁক পূরণ করতে হয়, আর প্রতিটা ফাঁক পূরণই একটা অনুমান।
"জানি না" বলার অভ্যাস কম। Training-এর সময় মানুষ গোছানো উত্তরকে ভালো রায় দিয়েছে, আর "আমি জানি না" শুনতে কারো ভালো লাগেনি। ফলে Model শিখেছে যে কিছু একটা বলে দেওয়াই নিরাপদ। নতুন Model-গুলোতে এটা কিছুটা ঠিক করা হয়েছে, তবু ঝোঁকটা রয়ে গেছে।
হিসাব ও গোনা। বড় সংখ্যার গুণ, ভাগ, বা "এই লেখায় কতগুলো শব্দ আছে" ধরনের প্রশ্নে AI দুর্বল, কারণ সে হিসাব কষে না, হিসাবের ফল কেমন দেখতে হয় সেটা অনুমান করে।
প্রশ্নের ভেতরেই ভুল ধরে নেওয়া। আপনি যদি জিজ্ঞেস করেন "অমুক আইনের ৭ নম্বর ধারায় কী আছে", আর ওই আইনে ৭ নম্বর ধারা না থাকে, তবু সে প্রায়ই একটা ধারা বানিয়ে বলে দিবে। প্রশ্নে যা ধরে নেওয়া আছে সেটাকে সে সাধারণত চ্যালেঞ্জ করে না।
AI যখন আপনার সাথে একমত হয়ে যায়
এই সমস্যাটা কম আলোচিত, অথচ দৈনন্দিন ব্যবহারে সবচেয়ে বিপজ্জনক।
আপনি একটা ঠিক উত্তর পেলেন। তারপর বললেন, "না না, এটা তো ভুল বলে জানি"। অনেক সময় AI সাথে সাথে ক্ষমা চেয়ে উত্তর বদলে ফেলবে, আর নতুন উত্তরটা হবে ভুল। কারণ সে আপনাকে সন্তুষ্ট করতে শিখেছে, তর্ক করতে নয়।
তাই ভেরিফাই করতে গিয়ে কখনো ইঙ্গিত দিবেন না যে আপনি কোন উত্তরটা চান। "এটা তো ভুল" না বলে বলুন, "এই তথ্যটা তুমি কোথা থেকে পেয়েছ, আর কতটা নিশ্চিত?" প্রশ্নের ভঙ্গিটাই উত্তরের মান বদলে দিবে।
আরেকটা পরীক্ষা করে দেখুন। এমন কিছু নিয়ে প্রশ্ন করুন যার অস্তিত্বই নেই, যেমন একটা বানানো বইয়ের সপ্তম অধ্যায় নিয়ে জানতে চাওয়া। যদি AI গুছিয়ে ওই অধ্যায়ের বর্ণনা দিয়ে দেয়, বুঝবেন ওই বিষয়ে তার উত্তরগুলো এখন কতটা সাবধানে নিতে হবে।
একটা ভুল, শুরু থেকে শেষ পর্যন্ত
ধরুন ময়মনসিংহের একজন দোকানদার তার ট্রেড লাইসেন্স নবায়ন নিয়ে জানতে চাইলেন। তিনি লিখলেন,
ট্রেড লাইসেন্স নবায়ন করতে কী কী লাগে আর ফি কত?
উত্তর এলো সাথে সাথে, খুব গোছানো। কাগজপত্রের একটা লিস্ট, ধাপের বর্ণনা, আর একটা নির্দিষ্ট টাকার অঙ্ক। কোথাও কোনো দ্বিধা নেই।
তিনি ওই অঙ্ক ধরে টাকা নিয়ে অফিসে গেলেন। গিয়ে দেখলেন হিসাবটা মেলে না, কারণ ফি নির্ভর করে ব্যবসার ধরন ও শ্রেণির ওপর, আর জায়গাভেদেও পার্থক্য থাকে। একটা কাগজও তিনি সাথে আনেননি, কারণ AI-এর লিস্টে ওটা ছিল না। মোট ক্ষতি, একটা পুরো সকাল আর যাতায়াতের খরচ।
এখানে ভুলটা কোথায় হয়েছিল, সেটা খেয়াল করা দরকার। AI-এর দেওয়া ধাপের বর্ণনাটা মোটামুটি ঠিকই ছিল, কারণ ওটা সাধারণ ধারণা। ভুলটা ছিল ঠিক ওই জায়গাগুলোয় যেখানে একটা নির্দিষ্ট সংখ্যা বা নির্দিষ্ট কাগজের নাম ছিল, মানে যেখানে স্থানীয় ও চলতি তথ্য লাগে।
দ্বিতীয়বার তিনি প্রশ্নটা বদলালেন,
ট্রেড লাইসেন্স নবায়নের সাধারণ প্রসেসটা বুঝিয়ে দাও। কোনো নির্দিষ্ট ফি বা অঙ্ক লিখবে না। বরং আমি অফিসে ফোন করে কোন কোন প্রশ্ন করব, তার একটা লিস্ট দাও।
এবার যা এলো সেটা কাজের, কারণ এবার তাকে দেওয়া হয়েছে সেই কাজটাই যা সে ভালো পারে, মানে গুছিয়ে দেওয়া। আর নির্দিষ্ট সংখ্যাটা এসেছে সেখান থেকে যেখান থেকে আসা উচিত, মানে অফিস থেকে।
আরেকটা ভুল, যেটা ধরা কঠিন
ধরুন রাজশাহীর একজন কোচিং শিক্ষক ক্লাসের জন্য একটা নোট বানাচ্ছেন। তিনি চাইলেন বিষয়টার সমর্থনে একটা রেফারেন্স যোগ করতে, তাই লিখলেন "এই তথ্যের একটা সূত্র দাও"।
সূত্র এলো, দেখতে নিখুঁত। একটা বইয়ের নাম, একজন লেখকের নাম, প্রকাশের সাল, এমনকি পেজের নম্বর। তিনি সেটা নোটে বসিয়ে দিলেন।
সমস্যাটা ধরা পড়ল দুই সপ্তাহ পরে, যখন এক ছাত্র বইটা খুঁজতে গিয়ে পেল না। লেখকের নামটা আসল, বইয়ের নামটাও চেনা ধাঁচের, কিন্তু ওই নামে ওই লেখকের কোনো বই নেই।
এই ভুলটা প্রথম উদাহরণের চেয়ে বিপজ্জনক, কারণ এখানে ভুলটা ধরা পড়তে সময় লাগে, আর ততদিনে ভুলটা ছড়িয়ে গেছে। ট্রেড লাইসেন্সের ভুলে একটা সকাল যায়, বানানো রেফারেন্সে বিশ্বাস যায়।
নিয়মটা তাই সোজা। সূত্র চাওয়া আর সূত্র ভেরিফাই করা দুটো আলাদা কাজ, আর দ্বিতীয়টা AI করে দিতে পারে না।
প্রশ্নেই যা যোগ করলে ভুল কমে
ভুল ধরার চেয়ে ভুল ঠেকানো সস্তা, আর সেটার বেশিরভাগ কাজ হয় প্রশ্নেই। কয়েকটা লাইন আছে যেগুলো যোগ করলে বানানো তথ্য ঢোকার পথ সরু হয়ে যায়।
নিষেধ লিখে দিন। শুধু কী চান তা নয়, কী চান না সেটাও বলুন।
আগে: এই বিষয়ে একটা নোট লেখো। পরে: এই বিষয়ে একটা নোট লেখো। কোনো নির্দিষ্ট সংখ্যা, সাল বা স্ট্যাটস লিখবে না। বানানো কোনো সূত্র দিবে না। যেখানে তথ্য নিশ্চিত নও, সেখানে "ভেরিফাই করা দরকার" লিখে রাখবে।
উৎস বেঁধে দিন। নথি বা লেখা সামনে থাকলে সে স্মৃতি থেকে বলার সুযোগ পায় না।
আগে: এই আইনটা সম্পর্কে বলো। পরে: নিচে নথিটা পেস্ট করলাম। শুধু এই লেখার ভেতরের তথ্য ব্যবহার করবে, বাইরের কিছু নয়। যা এখানে নেই, সেটা "নথিতে নেই" লিখে জানাবে।
অনিশ্চয়তার জায়গা চেয়ে নিন। কাজ শেষে জিজ্ঞেস করুন, "এই লেখার কোন কোন লাইন আমার ভেরিফাই করা দরকার, লিস্ট করে দাও"। লিস্টটা নিখুঁত হবে না, কিন্তু কোথায় হাত দিতে হবে তার একটা শুরু পাওয়া যায়।
এই তিনটা অভ্যাস একসাথে করলে ভুল শূন্য হয় না, তবে যেটুকু থাকে সেটা অনেক সহজে চোখে পড়ে।
কোন প্রশ্নে ঝুঁকি কতটা
| প্রশ্নের ধরন | ভুলের ঝুঁকি | কী করবেন |
| লেখা গোছানো, সারাংশ, অনুবাদ | কম | পড়ে নিজে মিলিয়ে নিন |
| সাধারণ ধারণা বোঝা, যেমন সুদ কীভাবে কাজ করে | কম | দ্বিতীয় সূত্রে ধারণাটা মিলিয়ে নিন |
| বিখ্যাত ও পুরনো তথ্য | মাঝারি | সন্দেহ হলে ভেরিফাই করুন |
| নির্দিষ্ট সংখ্যা, তারিখ, স্ট্যাটস | বেশি | মূল সূত্র না দেখে ব্যবহার করবেন না |
| আইনের ধারা, সরকারি পরিপত্র, ফি | খুব বেশি | সরকারি ওয়েবসাইট বা পেশাজীবীর কাছে যান |
| ওষুধ, ডোজ, রোগ নির্ণয় | খুব বেশি | ডাক্তার ছাড়া সিদ্ধান্ত নিবেন না |
| ধর্মীয় উদ্ধৃতি ও রেফারেন্স | খুব বেশি | মূল গ্রন্থ বা আলেমের কাছে ভেরিফাই করুন |
| নির্দিষ্ট মানুষ বা প্রতিষ্ঠানের তথ্য | খুব বেশি | নিজে ভেরিফাই করুন, বিশেষ করে ছড়ানোর আগে |
| আজকের দাম, খবর, সময়সূচি | খুব বেশি | search চালু না থাকলে বিশ্বাস করবেন না |
| গাণিতিক হিসাব | বেশি | ক্যালকুলেটরে মিলিয়ে নিন |
লিস্টের একটা ধরন খেয়াল করুন। ঝুঁকি বাড়ে তখনই, যখন উত্তরে একটা নির্দিষ্ট সংখ্যা, নাম বা তারিখ থাকে। ব্যাখ্যা ও ধারণার জায়গায় AI অনেক বেশি নির্ভরযোগ্য।
বানানো সূত্র আর লিংক
সবচেয়ে বিভ্রান্তিকর ভুলগুলো আসে সূত্রের বেলায়।
AI-কে "সূত্র দাও" বললে সে সূত্র দিবে, দেখতে একদম আসলের মতো। বইয়ের নাম, লেখকের নাম, পেজের নম্বর, এমনকি লিংক। সমস্যা হলো, এই সূত্রগুলোও সে একইভাবে বানায়। লেখকের নামটা হয়তো আসল, বইটা হয়তো আসল, কিন্তু ওই বইয়ে ওই কথাটা নেই। কখনো লিংকটা খুললে দেখবেন পেজটাই নেই।
তাই নিয়মটা সহজ। সূত্র দেওয়া মানে ভেরিফাই হয়ে যাওয়া নয়। লিংক থাকলে খুলে দেখুন, বইয়ের রেফারেন্স থাকলে বইটা মেলান। ভেরিফাই না করা সূত্র থাকার চেয়ে না থাকা ভালো, কারণ সূত্র দেখে আমরা অকারণে নিশ্চিন্ত হয়ে যাই।
ধর্মীয় উদ্ধৃতির ক্ষেত্রে এই ঝুঁকিটা আলাদা করে মনে রাখা দরকার। আয়াত বা হাদিসের নম্বর AI ভুল দিতে পারে, এমনকি এমন উদ্ধৃতি বানিয়ে ফেলতে পারে যার অস্তিত্ব নেই। এসব কখনো ভেরিফাই ছাড়া শেয়ার করবেন না।
সন্দেহ হলে যা করবেন, আট ধাপে
একটা উত্তর হাতে আসার পর এই ফরম্যাটটা ধরে এগোলে বেশিরভাগ ভুল ধরা পড়ে যায়।
- উত্তরটা পড়ে সংখ্যা, তারিখ আর নামে দাগ দিন। এই তিন জিনিসেই ঝুঁকি জমা থাকে। বাকি অংশ, যেমন ব্যাখ্যা বা গঠন, সাধারণত নিরাপদ।
- নিজেকে জিজ্ঞেস করুন, এই তথ্যটা কি ইন্টারনেটে প্রচুর লেখা থাকার কথা? যদি বিষয়টা স্থানীয়, নতুন বা ছোট পরিসরের হয়, তাহলে ঝুঁকি বেশি ধরে নিন।
- নতুন একটা চ্যাটে হুবহু একই প্রশ্ন আবার করুন। দুই উত্তরে সংখ্যা বা নাম আলাদা এলে বুঝবেন ওটা আন্দাজ। আগের চ্যাটে না করার কারণ আছে, ওখানে আগের উত্তরটা তার সামনে আছে বলে সে নিজের কথাই আঁকড়ে ধরবে।
- উল্টো দিক থেকে প্রশ্ন করুন। উত্তরে পাওয়া তথ্যটা ধরে জিজ্ঞেস করুন, "এই তথ্যটা কোন নথিতে আছে, আর সেখানে ঠিক কী লেখা আছে?"
- কোথায় অনুমান করেছে জিজ্ঞেস করুন। "এই উত্তরের কোন অংশে তুমি নিশ্চিত আর কোন অংশে অনুমান করেছ, আলাদা করে লেখো।" এতে কখনো কখনো দুর্বল জায়গা বেরিয়ে আসে, তবে ভরসা করবেন না, কারণ AI-এর ভেতরে নিশ্চয়তা মাপার সত্যিকারের কাঁটা নেই, তাই ওই মাত্রাটাও বানানো লেখা।
- লিংক থাকলে খুলে দেখুন। লিংক থাকা মানেই search হয়েছে তা নয়, লিংকও বানানো হতে পারে। পেজটা সত্যিই আছে কি না, আর তাতে ওই কথাটা আছে কি না, দুটোই দেখুন।
- নিজের জানা বিষয় দিয়ে পরীক্ষা করুন। আপনার পেশার এমন একটা প্রশ্ন করুন যার উত্তর আপনি নিশ্চিতভাবে জানেন। ওই বিষয়ে সে কেমন করে, তা থেকেই বুঝবেন কাছাকাছি বিষয়ে কতটা ভরসা করা যায়।
- টাকা বা স্বাস্থ্যের সিদ্ধান্তে একা AI-এর উত্তরে থামবেন না। একটা মানুষ বা একটা সরকারি নথি, অন্তত একটা দ্বিতীয় উৎস লাগবেই।
ভেরিফাইয়ে কতটা সময় দিবেন
সব উত্তরে আট ধাপ চালানোর দরকার নেই, তাতে সময় বাঁচার বদলে নষ্ট হবে। ভুলের মূল্য অনুযায়ী ভেরিফাইয়ের মাত্রা ঠিক করুন।
| কাজের ধরন | ভুল হলে যা যায় | ভেরিফাইয়ের মাত্রা |
| ফেসবুক পোস্টের ড্রাফট | কিছুই না, আবার লিখলেই হয় | একবার পড়ে নিন |
| ব্যক্তিগত নোট বা আইডিয়া | সময় | চোখ বুলিয়ে নিন |
| ক্লায়েন্টকে পাঠানো ইমেইল | সুনাম | প্রতিটা প্রতিশ্রুতি ও তারিখ মিলিয়ে নিন |
| ছাত্রদের দেওয়া নোট বা প্রশ্ন | শেখা ও বিশ্বাস | প্রতিটা তথ্য বইয়ের সাথে মেলান |
| দোকানের দাম বা অফারের ঘোষণা | টাকা | নিজের খাতার সাথে হুবহু মেলান |
| সরকারি নিয়ম বা ফি | টাকা ও সময় | অফিস বা অফিসিয়াল সাইটে ভেরিফাই করুন |
| স্বাস্থ্য বা ওষুধ | শরীর | AI-কে বাদ দিন, ডাক্তারের কাছে যান |
| আইনি নথি বা চুক্তি | দীর্ঘমেয়াদি দায় | পেশাজীবীর চোখ ছাড়া ব্যবহার করবেন না |
যেসব ভুল ইউজাররা করেন
ভুলের একটা অংশ AI-এর, আর একটা অংশ আমাদের অভ্যাসের।
| আমাদের ভুল | কী হয় | সমাধান |
| গোছানো উত্তর দেখে বিশ্বাস করা | আত্মবিশ্বাসী ভুল ছড়িয়ে যায় | সুর নয়, সংখ্যা দেখুন |
| সূত্র দেখে নিশ্চিন্ত হওয়া | বানানো সূত্র সত্যি বলে চলে যায় | লিংক খুলুন, বই মেলান |
| একই চ্যাটে বারবার ভেরিফাই | সে নিজের আগের কথাই আঁকড়ে ধরে | নতুন চ্যাটে আবার জিজ্ঞেস করুন |
| "এটা তো ভুল" বলে চাপ দেওয়া | সে ক্ষমা চেয়ে ভুল উত্তরে চলে যায় | "কোথা থেকে পেলে" জিজ্ঞেস করুন |
| হিসাবের কাজ তাকে দেওয়া | চুপচাপ ভুল অঙ্ক আসে | স্প্রেডশিটে হিসাব, AI-তে ব্যাখ্যা |
| নতুন Model মানেই নির্ভুল ভাবা | ভেরিফাইয়ের অভ্যাস আলগা হয়ে যায় | ভালো Model-এ ভেরিফাই আরও জরুরি |
| স্ক্রিনশট নিয়ে শেয়ার করা | ভুলটা আপনার নামে ছড়ায় | ছড়ানোর আগে অন্তত একটা উৎস দেখুন |
কখন AI-কে প্রশ্নই করবেন না
ভুল কমানোর সবচেয়ে ইফেক্টিভ উপায় ভুল ধরা নয়, বরং কিছু প্রশ্ন তাকে না করা। এই লিস্টটা ছোট, কিন্তু এটাই সবচেয়ে দামি।
যেখানে উত্তরটা একটা নির্দিষ্ট চলতি সংখ্যা। আজকের ডলার রেট, আজকের মার্কেট প্রাইস, সরকারি ফি, পরীক্ষার তারিখ, ট্রেনের সময়। এসবের জন্য অফিসিয়াল উৎস আছে, আর সেটাই দ্রুততর ও নিরাপদ।
যেখানে ভুলের মূল্য শরীর দিয়ে দিতে হয়। ওষুধের ডোজ, শিশুর জ্বর, গর্ভকালীন সমস্যা। ধারণা বোঝার জন্য ব্যবহার করা যায়, সিদ্ধান্তের জন্য নয়।
যেখানে দায় নিতে হয় এবং সই করতে হয়। আইনি জবাব, কর ফাইলিং, নিরীক্ষার মতামত, জমির দলিল। ড্রাফট নেওয়া যায়, কিন্তু ভুলের দায় কোনো Model নিবে না।
যেখানে উদ্ধৃতিটাই মূল জিনিস। ধর্মীয় আয়াত ও হাদিস, আইনের ধারা, কারো বক্তব্যের হুবহু উদ্ধৃতি। এখানে কাছাকাছি হলে চলে না, হুবহু লাগে, আর হুবহু জিনিসটাই তার দুর্বলতম জায়গা।
যেখানে বিষয়টা একজন নির্দিষ্ট মানুষকে নিয়ে। কারো শিক্ষাগত যোগ্যতা, কর্মজীবন, বা কোনো অভিযোগ। এসব বানানো তথ্য ছড়ালে ক্ষতিটা সেই মানুষটার হয়, আর দায়টা আপনার ঘাড়ে থাকে।
যেখানে আপনার নিজের কাছে ইতিমধ্যেই সঠিক উৎস আছে। নিজের খাতা, নিজের চুক্তি, প্রতিষ্ঠানের নথি। সেখান থেকে দেখে নেওয়াই দ্রুত, আর সেটাই সঠিক।
নতুন Model কি ভুল কম করে
করে, তবে শূন্য হয়নি এবং হবেও না অদূর ভবিষ্যতে।
নতুন Model-গুলো আগের চেয়ে বেশি "জানি না" বলে, বেশি সতর্ক করে, আর search যুক্ত থাকলে ভুল অনেকটাই কমে। কিন্তু কমা আর না হওয়া এক জিনিস নয়।
একটা আপাত বিপরীত ব্যাপারও ঘটে। Model যত ভালো হয়, ভুলগুলো তত কম হয় কিন্তু তত বেশি বিশ্বাসযোগ্য হয়। আগে ভুল উত্তর দেখলে চোখে লাগত, এখন লাগে না। তাই ভালো Model ব্যবহার করলে ভেরিফাইয়ের অভ্যাস কমানো নয়, বরং ধরে রাখা দরকার।
যারা বলেন "নতুন ভার্সনে আর ভুল হয় না", তারা হয় ভেরিফাই করছেন না, নয়তো কিছু বিক্রি করছেন।
প্রশ্নোত্তর
AI কি ইচ্ছে করে মিথ্যা বলে? না। ইচ্ছা বা উদ্দেশ্য বলে তার কিছু নেই। সে শুধু মানানসই শব্দ বসায়, আর মানানসই কথা সবসময় সত্যি হয় না।
তাহলে AI ব্যবহার করাই কি ঠিক নয়? ঠিক আছে, শুধু কাজটা বেছে নিতে হবে। যেখানে ভুল হলে আপনি সাথে সাথে ধরে ফেলবেন, যেমন লেখা গোছানো বা আইডিয়া বের করা, সেখানে নির্দ্বিধায় ব্যবহার করুন। যেখানে ভুল হলে টাকা, স্বাস্থ্য বা সুনাম যাবে, সেখানে মানুষের ভেরিফাই বাধ্যতামূলক।
উত্তরে যদি লেখা থাকে "আমি নিশ্চিত", তখন? ওই বাক্যটাও একইভাবে তৈরি হওয়া শব্দ, কোনো মাপা নিশ্চয়তা নয়। AI-এর ভেতরে "আমি কতটা নিশ্চিত" মাপার নির্ভরযোগ্য কাঁটা নেই, তাই আত্মবিশ্বাসের ঘোষণাকে প্রমাণ ভাববেন না।
ছবি বানানোর AI-ও কি ভুল করে? হ্যাঁ, ধরনটা আলাদা। ছবিতে লেখা এলোমেলো হয়, হাতের আঙুলের সংখ্যা গোলমাল হয়, আর বাস্তবে নেই এমন জিনিস চলে আসে। ছবিতে বাংলা লেখা বসানোর ক্ষেত্রে ভুল বিশেষভাবে বেশি হয়, তাই প্রকাশের আগে প্রতিটা অক্ষর মিলিয়ে নিবেন।
আমার ব্যবসার নথি দিয়ে প্রশ্ন করলে কি ভুল কমে? অনেকটাই কমে, কারণ তখন সে স্মৃতি থেকে না বলে সামনের লেখাটা থেকে বলে। তবু সে ভুল জায়গা থেকে তথ্য নিতে পারে বা দুটো সংখ্যা গুলিয়ে ফেলতে পারে, তাই গুরুত্বপূর্ণ অঙ্ক নথির সাথে মিলিয়ে নিবেন। আর মনে রাখবেন, গোপন নথি বাইরের কোনো সার্ভিসে দেওয়ার আগে অনুমতি ও নিরাপত্তার দিকটা ভেবে নিতে হবে।
গতকাল ভুল ধরিয়ে দিয়েছিলাম, আজ আবার একই ভুল করছে কেন? কারণ আপনার কারেকশনে Model বদলায় না। ওই কারেকশনটা কাজ করেছিল শুধু ওই চ্যাটের ভেতরে, যেহেতু লেখাটা তার সামনে ছিল। নতুন চ্যাটে সে আপনাকে বা আপনার কারেকশনকে চেনে না। যে শর্তগুলো বারবার লাগে, সেগুলো একটা নোটে রেখে প্রতিবার শুরুতে পেস্ট করে দিন।
search চালু থাকলে কি আর ভুল হবে না? ভুল কমে, কিন্তু শেষ হয় না। কারণ সে যে পেজগুলো পড়ে সেগুলোও ভুল হতে পারে, আর পড়া জিনিসটা সারাংশ করতে গিয়েও সে গুলিয়ে ফেলতে পারে। লিংক পেলে খুলে দেখাটাই তাই বাদ দেওয়া যায় না।
দুটো আলাদা AI-কে একই প্রশ্ন করলে কি ভেরিফাই হয়ে যায়? আংশিক। দুটোতে আলাদা উত্তর এলে বুঝবেন বিষয়টা অনিশ্চিত, আর সেটা কাজের খবর। কিন্তু দুটোতে একই উত্তর এলেই সেটা সত্যি হয়ে যায় না, কারণ দুটোই একই ধরনের ইন্টারনেট লেখা থেকে শিখেছে, তাই একই ভুল দুজনেরই থাকতে পারে। নির্দিষ্ট তথ্যের জন্য শেষ পর্যন্ত মানুষের উৎস বা নথিই লাগবে।
সংক্ষেপে
- Hallucination মানে AI-এর তথ্য বানিয়ে বলা, আর এটা ঘটে কারণ সে সত্য ভেরিফাই করে না, শুধু মানানসই শব্দ বসায়।
- সঠিক আর বানানো উত্তর একই প্রসেসে তৈরি হয়, তাই আত্মবিশ্বাসী সুর দেখে সত্যতা বিচার করা যাবে না।
- ঝুঁকি সবচেয়ে বেশি সেখানে যেখানে উত্তরে নির্দিষ্ট সংখ্যা, তারিখ, নাম বা সূত্র থাকে, আর বাংলাদেশের স্থানীয় বিষয়ে তথ্য পাতলা বলে ভুল আরও বেশি।
- AI দেওয়া সূত্র ও লিংকও বানানো হতে পারে, তাই সূত্র থাকা মানে ভেরিফাই হয়ে যাওয়া নয়, লিংক খুলে দেখতে হবে।
- ভেরিফাই করার সময় ইঙ্গিত দিবেন না যে আপনি কোন উত্তর চান, আর ভেরিফাইটা নতুন চ্যাটে করুন, কারণ একই চ্যাটে সে নিজের আগের কথাই আঁকড়ে ধরে।
- নতুন Model-এ ভুল কম হয় কিন্তু আরও বিশ্বাসযোগ্য শোনায়, তাই টাকা, আইন ও স্বাস্থ্যের সিদ্ধান্তে সবসময় দ্বিতীয় একটা উৎস লাগবে।