در دنیای پرشتاب هوش مصنوعی، یک محقق برجسته دیگر از این حوزه خداحافظی کرده و نگرانیهای جدی را در مورد آینده این فناوری ابراز کرده است. جو بنتون، که در پروفایل اجتماعیاش خود را به عنوان مدیر پیشین تیم نظارت مقیاسپذیر در آنتروپیک معرفی کرده است، به تازگی با انتشار پستی در شبکههای اجتماعی، از خطرات مربوط به هوش مصنوعی و رقابتهای بیمحابا میان شرکتها سخن گفته است.
خطرات هوش مصنوعی و رقابتهای بیمحابا
بenton در این پست تاکید کرده که شرکتهای فناوری در تلاشند تا ماشینهایی بسازند که از هر انسان دیگری هوشمندتر باشند، و این موضوع میتواند عواقب وخیمی داشته باشد. او به شدت به رفتارهای شرکتها در این حوزه انتقاد کرده و بر لزوم ایجاد تدابیر ایمنی مناسب برای جلوگیری از وقوع فاجعههای احتمالی تاکید کرده است.
بیشتر بخوانید: افزایش قیمت غیرمنتظرهٔ GPUها: Nvidia در کانون توجه Oracle
بنتون با اشاره به سابقهاش در آنتروپیک، یک شرکت پیشرو در زمینه هوش مصنوعی، به این نکته اشاره کرد که این رقابت نه تنها به نفع بشریت نیست، بلکه میتواند به تهدیدی برای امنیت جهانی تبدیل شود. او احساس میکند که بسیاری از شرکتها تنها به فکر سودآوری هستند و ایمنی و اخلاقیات را در این مسیر نادیده میگیرند.
این استعفا به خوبی نشاندهنده نارضایتی عمیق برخی از محققان از وضعیت کنونی و فشارهای موجود در صنعت فناوری است. با توجه به اینکه هوش مصنوعی به سرعت در حال پیشرفت است، نگرانیها در مورد استفادههای نادرست از این فناوری و پیامدهای اجتماعی آن به شدت افزایش یافته است. بسیاری از کارشناسان معتقدند که عدم توجه به ایمنی و اخلاق در توسعه هوش مصنوعی میتواند به فاجعههای غیرقابل جبرانی منجر شود.
بنتون تاکید کرده که تنها با ایجاد یک رویکرد اخلاقی و ایمن در توسعه هوش مصنوعی، میتوان از وقوع چنین خطراتی جلوگیری کرد. او امیدوار است که این استعفا و ابراز نگرانیها بتواند زنگ خطری برای دیگر شرکتها و محققان باشد تا به مسئولیتهای اجتماعی خود بیشتر توجه کنند.
بیشتر بخوانید: نیبیوس، شریک زیرساخت هوش مصنوعی محبوب پالانتیر شد! · Nvidia و Palantir: انقلابی جدید در زنجیره تأمین با AI
