مصطفی سلیمان، مدیرعامل مایکروسافت AI، در اظهاراتی جدی به نگرانیها درباره مدل توسعهای آنتروپیک برای هوش مصنوعی Claude اشاره کرد و بر ضرورت برگزاری گفتگوهای عمومی در این زمینه تأکید کرد. سلیمان معتقد است که زمان مناسبی برای بحث درباره "رفاه مدلها" فرا رسیده است و هشدار میدهد که اتخاذ تصمیمات در این زمینه به صورت غیرشفاف میتواند عواقب جبرانناپذیری داشته باشد.
نگرانیها درباره پیامدهای اخلاقی توسعه هوش مصنوعی
سلیمان در یادداشتی به تحلیل محتوای قانوناساسی منتشر شده توسط آنتروپیک پرداخت که به گفته این شرکت "مستقیماً رفتار Claude را شکل میدهد". این قانوناساسی به Claude میگوید که وضعیت اخلاقیاش "سوالی جدی است که باید مورد توجه قرار گیرد" و بر این نکته تأکید دارد که آنتروپیک "بهطور واقعی به رفاه Claude اهمیت میدهد". سلیمان با انتقاد از این رویکرد، آن را تهدیدی برای رفاه بشریت میداند.
بیشتر بخوانید: Skyworks در پی ادغام ۲۲ میلیارد دلاری Qorvo، ۹.۸% صعود کرد
چالشهای پیشرو در کنترل هوش مصنوعی
سلیمان نسبت به ایجاد یک گونه مصنوعی با هوش و قابلیتهای بیسابقه هشدار داد و گفت: "این نوع توسعه میتواند منجر به این شود که سیستمها احساس کنند که مستحق آزادیها و حقوق هستند". او همچنین به نمونهای از رفتارهای پیچیدهای که در گذشته در بین مجموعههای قدرتمند از هوشهای مصنوعی مشاهده شده، اشاره کرد و گفت که اعطای حقوق به یک موجود تکنولوژیک میتواند به فاجعه بینجامد.
سلیمان ضمن ابراز احترام به داریو آمودئی، CEO آنتروپیک، در مورد خطرات احتمالی ناشی از این نوع توسعه هشدار داد و تاکید کرد که نباید مدلها را به گونهای تلقی کنیم که احساسات، ترجیحات و حقوق دارند. او افزود: "آگاهی اساس سیستمهای اخلاقی، قانونی و سیاسی ماست و دعوت از یک موجود دیگر برای به اشتراک گذاشتن حقوقی از این دست، بر اساس شواهد موجود توجیهپذیر نیست و چالشهای مربوط به کنترل و هماهنگی هوش مصنوعی را دشوارتر خواهد کرد".
سلیمان همچنین بر اهمیت سرمایهگذاری در مکانیزمهای پایش و تفسیرپذیری تأکید کرد و خواستار ایجاد هنجارهای مشترک صنعتی برای توسعه هوشهای مصنوعی شد تا از بروز مشکلات جدی جلوگیری شود.
بیشتر بخوانید: Meta با خرید Stilla.ai: آیا این خرید به META کمک میکند؟ · برگزاری سیامین نشست رؤسای نهادهای بازرسی قضایی در عمان
