جنسن هوانگ، مدیرعامل انویدیا، در یک رویداد که به میزبانی مارک بنیوف، مدیرعامل و رئیس شرکت سیلزفورس برگزار شد، بر اهمیت ایمنی در توسعه هوش مصنوعی تأکید کرد. هوانگ با اشاره به پیچیدگیهای سیستمهای محاسباتی گفت که ایمنی باید در اولویت قرار گیرد و افزود: "ما در حال توسعه نرمافزار و سیستمهای محاسباتی هستیم. بنابراین، اولین قدم این است که محیطهای آزمایشی مناسب برای ارزیابی این سیستمهای پیچیده ایجاد کنیم. این محیطها باید به خوبی و به طور ایمن ساخته شوند."
تعادل بین سرعت توسعه و ایمنی محصولات
هوانگ خاطرنشان کرد که سرعت توسعه و ایمنی محصولات میتواند در کنار هم قرار گیرد و شرکتها باید خود را تا زمانی که به ایمنی محصولات اطمینان ندارند، کنترل کنند. او افزود: "اگر به ایمنی محصولات اطمینان ندارید، نباید آن را عرضه کنید. این یک نکته واضح است. باید خود را کنترل کنید تا مطمئن شوید که چیزی را عرضه میکنید که بازار از آن قدردانی خواهد کرد. نیازی به قوانین جدید نیست. فقط کافی است که شرکتها تصمیم بگیرند."
بیشتر بخوانید: دستاورد جدید اوبر: عضویت Uber One از ۵۰ میلیون عبور کرد
همگرایی صنعت در راستای ایمنی
سام آلتمن، مدیرعامل اوپنایآی، در همان رویداد گفت که ایمنی هوش مصنوعی نباید هیچ نوع قید و شرطی داشته باشد و اشاره کرد که این موضوع بسیار حائز اهمیت است که صنعت به هم پیوسته و برای تضمین ایمنی همکاری کند. او گفت: "باید به مردم اطمینان دهیم که ما به طور مسؤولانه عمل خواهیم کرد، صرف نظر از فشارهای تجاری و رقابتی. این اعتماد برای آینده صنعت ضروری است."
داریو آمودئی، مدیرعامل آنتروپیک که بحث درباره کاهش سرعت توسعه را آغاز کرد، خواستار بهبود شیوهها و شفافیت بیشتر شد. او گفت که باید به سوابق خود نگاه کنیم و همواره به دنبال بهبود باشیم. آمودئی افزود: "ما باید به شفافیت متعهد شویم و در ایمنی بیشتر سرمایهگذاری کنیم."
بحث درباره کاهش سرعت توسعه هوش مصنوعی به عنوان یک نقطه عطف در این صنعت توصیف میشود. این موضوع ابتدا زمانی مطرح شد که یک محقق آنتروپیک به دلیل نگرانی از ریسکهای واقعی انسانساز سیستمهای "فوقهوش" استعفا داد و اکنون به یک بحث جامع درباره چگونگی پیشرفت صنعت هوش مصنوعی تبدیل شده است.
بیشتر بخوانید: افشای سوءاستفاده از Claude: یک تهدید جدی برای امنیت جهانی · رشد شگفتانگیز شرکتهای عمانی در دنیای هوش مصنوعی
