Jensen Huang, CEO von Nvidia, betonte bei einer Veranstaltung, die von Marc Benioff, CEO und Vorsitzender von Salesforce, ausgerichtet wurde, die Bedeutung von Sicherheit bei der Entwicklung von Künstlicher Intelligenz. Huang wies auf die Komplexität von Rechensystemen hin und sagte, dass Sicherheit Priorität haben müsse, und fügte hinzu: "Wir entwickeln Software und Rechensysteme. Daher ist der erste Schritt, geeignete Testumgebungen zur Bewertung dieser komplexen Systeme zu schaffen. Diese Umgebungen müssen gut und sicher aufgebaut sein."
Balance zwischen Entwicklungsgeschwindigkeit und Produktsicherheit
Huang stellte fest, dass Entwicklungsgeschwindigkeit und Produktsicherheit nebeneinander bestehen können und Unternehmen sich zurückhalten sollten, bis sie sich der Sicherheit ihrer Produkte sicher sind. Er fügte hinzu: "Wenn Sie sich der Sicherheit Ihrer Produkte nicht sicher sind, sollten Sie sie nicht auf den Markt bringen. Das ist ein klarer Punkt. Sie müssen sich zurückhalten, um sicherzustellen, dass Sie etwas anbieten, das der Markt schätzt. Es bedarf keiner neuen Regeln. Es reicht aus, wenn Unternehmen Entscheidungen treffen."
Mehr lesen: Neuer Erfolg für Uber: Mitgliedschaft Uber One über 50 Millionen
Branchenkonvergenz zur Gewährleistung der Sicherheit
Sam Altman, CEO von OpenAI, sagte bei derselben Veranstaltung, dass die Sicherheit von Künstlicher Intelligenz keine Bedingungen haben sollte, und wies darauf hin, dass es von großer Bedeutung ist, dass die Branche zusammenarbeitet, um die Sicherheit zu gewährleisten. Er sagte: "Wir müssen den Menschen versichern, dass wir verantwortungsbewusst handeln werden, unabhängig von geschäftlichen und wettbewerblichen Druck. Dieses Vertrauen ist für die Zukunft der Branche unerlässlich."
Dario Amodei, CEO von Anthropic, der die Diskussion über die Verlangsamung der Entwicklung angestoßen hatte, forderte eine Verbesserung der Praktiken und mehr Transparenz. Er sagte, dass wir auf unsere Aufzeichnungen schauen und ständig nach Verbesserungen streben sollten. Amodei fügte hinzu: "Wir müssen uns zur Transparenz verpflichten und mehr in die Sicherheit investieren."
Die Diskussion über die Verlangsamung der Entwicklung von Künstlicher Intelligenz wird als ein Wendepunkt in dieser Branche beschrieben. Dieses Thema wurde zunächst angesprochen, als ein Forscher von Anthropic aufgrund von Bedenken über die realen Risiken von "überintelligenten" Systemen zurücktrat und sich nun zu einer umfassenden Diskussion darüber entwickelt hat, wie die Branche der Künstlichen Intelligenz vorankommen kann.
Mehr lesen: Enthüllung des Missbrauchs von Claude: Eine ernsthafte Bedrohung für die globale Sicherheit · Erstaunliches Wachstum omanischer Unternehmen in der Welt der Künstlichen Intelligenz
