কৃত্রিম বুদ্ধিমত্তা (এআই) বিভিন্ন শিল্পে দ্রুত বিস্তৃত হচ্ছে, অভূতপূর্ব দক্ষতা এবং ক্ষমতা নিয়ে আসছে [১]। তবে, এই অগ্রগতির সাথে সাথে "এআই বিভ্রম" নামক একটি গুরুত্বপূর্ণ চ্যালেঞ্জও দেখা দিয়েছে। এআই বিভ্রম বলতে বোঝায়, এআই মডেলগুলি এমন তথ্য তৈরি করে যা দেখতে বিশ্বাসযোগ্য মনে হলেও আসলে ভুল বা সম্পূর্ণভাবে ভিত্তিহীন [২, ৬]। এই সমস্যা মিথ্যা তথ্যের বিস্তার ঘটাতে পারে, যা সহজে সত্য বলে চালিয়ে দেওয়া যায়।
এআই বিভ্রমের বেশ কয়েকটি কারণ রয়েছে। ডেটার গুণগত মান একটি প্রধান বিষয়। প্রশিক্ষণের ডেটাতে ভুল বা পক্ষপাতিত্ব থাকলে, এআই মডেলগুলি সেই ত্রুটিগুলো আউটপুটে প্রতিফলিত করতে পারে [৩, ১১]। মডেলের সীমাবদ্ধতাও একটি ভূমিকা পালন করে। বৃহৎ ভাষা মডেল (এলএলএম) মূলত ডেটার প্যাটার্নের ওপর ভিত্তি করে পরবর্তী শব্দ অনুমান করার জন্য ডিজাইন করা হয়েছে, যা আপাতদৃষ্টিতে সঙ্গতিপূর্ণ কিন্তু ভুল তথ্য তৈরি করতে পারে [২]।
এআই সিস্টেমগুলি যে বিষয়বস্তু তৈরি করে, সে সম্পর্কে কোনো অন্তর্নিহিত ধারণা রাখে না। তারা বোঝার পরিবর্তে পরিসংখ্যানগত সম্পর্কের ওপর নির্ভর করে, যার ফলে ভুল তথ্য তৈরি হতে পারে [২, ১০]। উদাহরণস্বরূপ, একটি গবেষণায় দেখা গেছে যে এআই মডেলগুলি ভুল চিকিৎসা সংক্রান্ত তথ্য তৈরি করতে পারে, যা স্বাস্থ্যসেবার মতো গুরুত্বপূর্ণ খাতে ঝুঁকি তৈরি করে।
এআই বিভ্রমের বহুবিধ কুফল রয়েছে, যার মধ্যে আস্থা হ্রাস এবং খ্যাতির ক্ষতি অন্যতম। এআই সিস্টেম যখন ভুল তথ্য দেয়, তখন ব্যবহারকারীরা প্রযুক্তির ওপর আস্থা হারাতে পারে, যা এর ব্যবহার কমিয়ে দিতে পারে [২, ১৩]।
এআই বিভ্রম মোকাবেলার কৌশল
এআই বিভ্রমের চ্যালেঞ্জগুলো মোকাবেলা করার জন্য সংস্থাগুলো বেশ কয়েকটি পদক্ষেপ নিতে পারে:
এআই-উত্পাদিত আউটপুটগুলিতে মানুষের মাধ্যমে পর্যালোচনা করা হলে, ভুল তথ্য ছড়ানোর আগে শনাক্ত ও সংশোধন করা যায় [৩৭, ৩৫]।
প্রশিক্ষণের ডেটা সঠিক, পক্ষপাতহীন এবং প্রতিনিধিত্বমূলক হওয়া নিশ্চিত করা হলে বিভ্রমের সম্ভাবনা হ্রাস করা যেতে পারে [১১, ১৬]।
যে এআই সিস্টেমগুলো তাদের যুক্তিবোধ প্রক্রিয়া ব্যাখ্যা করতে পারে, সেগুলো ত্রুটি সনাক্তকরণ এবং সংশোধনে সহায়ক হতে পারে [৪, ৯]।
এআই আউটপুটগুলো নিয়মিত পর্যবেক্ষণ করা এবং ব্যবহারকারীর প্রতিক্রিয়া জানানোর ব্যবস্থা তৈরি করা হলে, রিয়েল টাইমে বিভ্রম চিহ্নিত করে সংশোধন করা যায় [১, ৪২]।
ঝুঁকি ব্যবস্থাপনার গুরুত্ব
এআই ঝুঁকি ব্যবস্থাপনার মধ্যে প্রযুক্তিগত এবং অ-প্রযুক্তিগত উভয় ঝুঁকি চিহ্নিত করা, মূল্যায়ন করা এবং প্রশমিত করা অন্তর্ভুক্ত [১, ১২]। ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (এনআইএসটি) এআই ঝুঁকি ব্যবস্থাপনা কাঠামো এক্ষেত্রে একটি সহায়ক কাঠামো হতে পারে [১]।
ডেটার গুণগত মান নিশ্চিত করা
উচ্চ গুণমান সম্পন্ন ডেটা নিশ্চিত করার জন্য ডেটা পরিষ্কার এবং ত্রুটিমুক্ত হওয়া প্রয়োজন। ডেটার যথার্থতা, সামঞ্জস্যতা, সম্পূর্ণতা এবং সময়োপযোগীতা নিশ্চিত করা দরকার [১১, ২৩]। ডেটার উৎস এবং সম্ভাব্য দুর্বলতাগুলো মূল্যায়ন করাও গুরুত্বপূর্ণ।
ব্যাখ্যাযোগ্য এআই (এক্সএআই)
এক্সএআই এমন একটি প্রক্রিয়া, যা ব্যবহারকারীদের মেশিন লার্নিং অ্যালগরিদম থেকে তৈরি ফলাফল বুঝতে এবং বিশ্বাস করতে সাহায্য করে [৪, ২২]। এটি এআই মডেলের নির্ভুলতা, ন্যায্যতা এবং স্বচ্ছতা উন্নত করে [৪, ৯]।
উপসংহার
এআই ব্যবহারের সুবিধাগুলো গ্রহণ করার সময় এর ঝুঁকিগুলো সম্পর্কে সচেতন থাকা জরুরি। এআই বিভ্রম একটি গুরুত্বপূর্ণ চ্যালেঞ্জ, যা মিথ্যা তথ্য ছড়াতে পারে এবং আস্থা কমিয়ে দিতে পারে। ডেটার গুণগত মান নিশ্চিতকরণ, ঝুঁকি ব্যবস্থাপনার বাস্তবায়ন, এবং ব্যাখ্যাযোগ্য এআই ব্যবহারের মাধ্যমে, সংস্থাগুলো এই চ্যালেঞ্জ মোকাবেলা করতে পারে [৮, ১৯]। মূল বিষয় হলো, প্রযুক্তির ব্যবহার সম্পর্কে সচেতন হওয়া এবং একটি দায়িত্বশীল পদ্ধতি অনুসরণ করা।