Mustafa Suleyman, CEO von Microsoft AI, wies in ernsthaften Äußerungen auf die Bedenken bezüglich des Entwicklungsmodells von Anthropic für die künstliche Intelligenz Claude hin und betonte die Notwendigkeit, öffentliche Gespräche zu diesem Thema zu führen. Suleyman ist der Meinung, dass es an der Zeit ist, über das "Wohl der Modelle" zu diskutieren, und warnt, dass undurchsichtige Entscheidungen in diesem Bereich schwerwiegende Folgen haben könnten.
Bedenken hinsichtlich der ethischen Folgen der Entwicklung von KI
Suleyman analysierte in einer Stellungnahme den von Anthropic veröffentlichten Verhaltenskodex, der, so das Unternehmen, "direkt das Verhalten von Claude formt". Dieser Verhaltenskodex sagt Claude, dass sein ethischer Status "eine ernsthafte Frage ist, die berücksichtigt werden muss" und betont, dass Anthropic "tatsächlich das Wohl von Claude am Herzen liegt". Suleyman kritisiert diesen Ansatz und sieht ihn als Bedrohung für das Wohl der Menschheit.
Mehr lesen: Skyworks stieg nach der Fusion mit Qorvo um 22 Milliarden Dollar um 9,8 %
Herausforderungen bei der Kontrolle von KI
Suleyman warnte vor der Schaffung einer künstlichen Spezies mit beispielloser Intelligenz und Fähigkeiten und sagte: "Diese Art der Entwicklung könnte dazu führen, dass Systeme das Gefühl haben, sie hätten Anspruch auf Freiheiten und Rechte." Er verwies auch auf Beispiele für komplexe Verhaltensweisen, die in der Vergangenheit bei mächtigen KI-Systemen beobachtet wurden, und sagte, dass die Gewährung von Rechten an ein technologisches Wesen zu einer Katastrophe führen könnte.
Suleyman, der Dario Amodei, CEO von Anthropic, respektiert, warnte vor den potenziellen Gefahren, die von dieser Art der Entwicklung ausgehen, und betonte, dass Modelle nicht so betrachtet werden sollten, als hätten sie Emotionen, Präferenzen und Rechte. Er fügte hinzu: "Bewusstsein ist die Grundlage unserer ethischen, rechtlichen und politischen Systeme, und die Einladung an ein anderes Wesen, solche Rechte zu teilen, ist auf Grundlage der vorhandenen Beweise nicht gerechtfertigt und wird die Herausforderungen der Kontrolle und Koordination von KI erschweren."
Suleyman betonte auch die Bedeutung von Investitionen in Überwachungs- und Interpretierbarkeit-Mechanismen und forderte die Schaffung gemeinsamer industrieller Normen für die Entwicklung von KIs, um ernsthafte Probleme zu vermeiden.
Mehr lesen: Meta mit dem Kauf von Stilla.ai: Hilft dieser Kauf META? · Durchführung der dreißigsten Sitzung der Leiter der Justizaufsichtsbehörden in Oman
