هوش مصنوعی جای بانکدار را نمی‌گیرد

به گزارش روابط عمومی تجارت الکترونیک پارسیان(تاپ) به نقل از دنیای پرداخت، در این پنل، موضوعاتی از جمله نحوه استفاده از داده برای شناسایی رفتارهای غیرعادی، الزامات رگولاتوری در طراحی مدل‌های هوش مصنوعی و نقش ایجنت‌ها در مدیریت تراکنش‌های مشکوک مورد بحث قرار گرفت.

وقتی AI تصمیم می‌گیرد، انسان همچنان مسئول است

علوی با اشاره به ضرورت حفظ نظارت انسانی در فرایند استفاده از هوش مصنوعی گفت: استفاده از AI نافی مسئولیت‌های بانکدار و عامل انسانی در استفاده از AI نیست.

به گفته او، حتی در گزارش‌های منتشرشده در سال ۲۰۲۵ نیز بر لزوم در نظر گرفتن ملاحظات انسانی در استفاده از هوش مصنوعی تأکید شده است؛ موضوعی که در صنعت بانکداری، به دلیل حساسیت تصمیمات مالی و نظارتی، اهمیت بیشتری پیدا می‌کند.

داده بیشتر، لزوما تصمیم بهتر نیست

مدیر حکمرانی داده و مبارزه با پولشویی شرکت تجارت الکترونیک پارسیان همچنین درباره نحوه استفاده از داده‌ها برای شناسایی ناهنجاری‌های تراکنشی توضیح داد که نباید از همان ابتدا تمام داده‌های موجود وارد فرایند تحلیل شوند.

علوی با اشاره به تراکنش‌هایی که رفتاری متفاوت با الگوی معمول صاحب کارت یا حساب دارند، تأکید کرد: استفاده از داده باید به‌صورت مرحله‌ای انجام شود. به این معنا که ابتدا داده‌های تراکنشی مورد بررسی قرار گیرند و در صورتی که همین داده‌ها برای شناسایی الگوی غیرعادی کفایت کنند، نیازی به ورود گسترده‌تر داده‌ها به مدل وجود نداشته باشد. اگر داده‌های تراکنشی پاسخ می‌دهد، مدل را بر مبنای همین داده‌ها جلو ببریم.

هوش مصنوعی در بانکداری زیر ذره‌بین رگولاتور

بخش دیگری از صحبت‌های علوی به الزامات نظارتی اختصاص داشت، او تأکید کرد: استفاده از مدل‌های هوش مصنوعی در بانک‌ها تنها یک موضوع فنی نیست و باید همزمان با طراحی مدل اجرایی، ملاحظات رگولاتوری نیز در نظر گرفته شود.

به گفته علوی، نحوه استفاده از داده، سطح دسترسی مدل‌ها و چگونگی اعمال تصمیمات حاصل از هوش مصنوعی، از جمله موضوعاتی هستند که باید در چارچوب‌های اجرایی بانک‌ها مورد توجه قرار گیرند.

ایجنت‌ها؛ محدودسازی موقت به جای مسدودی

علوی در بخش پایانی صحبت‌های خود به سازوکاری که به گفته او از سوی بانک مرکزی تعریف شده نیز اشاره کرد و درباره نقش ایجنت‌ها در مدیریت تراکنش‌ها گفت: ایجنت می‌تواند به‌صورت موقت محدود کند؛ مسدود نمی‌کند، بلکه موقت محدود می‌کند. این رویکرد می‌تواند به معنای استفاده از هوش مصنوعی برای واکنش سریع‌تر به رفتارهای غیرعادی، بدون واگذاری کامل تصمیم نهایی به ماشین باشد؛ رویکردی که در آن فناوری در کنار سازوکارهای نظارتی و مسئولیت انسانی قرار می‌گیرد.