Wenn die Personen, die an der Spitze der Technologie der künstlichen Intelligenz stehen, dazu Stellung nehmen Angesichts der möglicherweise katastrophalen Auswirkungen hochintelligenter KI-Systeme ist es wahrscheinlich ratsam, sich hinzusetzen Notiz.
Noch vor ein paar Monaten sagte Geoffrey Hinton, ein Mann, der aufgrund seiner Pionierarbeit auf diesem Gebiet als einer der „Paten“ der KI gilt, dass sich die Technologie rasant entwickelt bedeutete, dass es „nicht unvorstellbar“ war dass superintelligente KI – die als dem menschlichen Geist überlegen gilt – am Ende die Menschheit auslöschen könnte.
Empfohlene Videos
Und Sam Altman, CEO von OpenAI, dem Unternehmen dahinter der virale ChatGPT-Chatbot, hatte zugegeben, „ein bisschen Angst“ vor den möglichen Auswirkungen fortschrittlicher KI-Systeme auf die Gesellschaft zu haben.
Verwandt
- Der ChatGPT-Hersteller OpenAI steht vor einer FTC-Untersuchung wegen Verbraucherschutzgesetzen
- Der ChatGPT-Website-Verkehr ist zum ersten Mal zurückgegangen
- Ich habe ChatGPT beigebracht, mir Brettspiele beizubringen, und jetzt werde ich nie mehr zurückgehen
Altman ist so besorgt, dass sein Unternehmen am Mittwoch die Gründung einer neuen Einheit namens „ Superalignment soll sicherstellen, dass superintelligente KI am Ende kein Chaos oder ähnliches verursacht schlechter.
„Superintelligenz wird die einflussreichste Technologie sein, die die Menschheit je erfunden hat, und könnte uns helfen, viele der wichtigsten Probleme der Welt zu lösen.“ OpenAI sagte in einem Beitrag zur Vorstellung der neuen Initiative. „Aber die enorme Macht der Superintelligenz könnte auch sehr gefährlich sein und zur Entmachtung der Menschheit oder sogar zur Ausrottung der Menschheit führen.“
OpenAI sagte, dass superintelligente KI zwar noch in weiter Ferne zu sein scheint, aber davon ausgeht, dass sie bis 2030 entwickelt werden könnte. Und es gibt ohne weiteres zu, dass es derzeit kein System gibt, „um eine potenziell superintelligente KI zu steuern oder zu kontrollieren und zu verhindern, dass sie abtrünnig wird“.
Um mit der Situation umzugehen, möchte OpenAI einen „automatisierten Alignment-Forscher auf ungefähr menschlicher Ebene“ aufbauen, der Sicherheitsüberprüfungen an a durchführt Superintelligente KI und fügt hinzu, dass die Bewältigung dieser Risiken auch neue Institutionen für die Governance und die Lösung des Problems der Superintelligenz erfordert Ausrichtung.
Damit Superalignment Wirkung zeigen kann, muss OpenAI ein erstklassiges Team aus Spitzenforschern und Ingenieuren für maschinelles Lernen zusammenstellen.
Das Unternehmen zeigt sich sehr offen über seine Bemühungen und bezeichnet es als „unglaublich ehrgeiziges Ziel“, gibt dies aber auch zu es ist „nicht garantiert, dass es gelingt.“ Aber es fügt hinzu, dass es „optimistisch ist, dass eine gezielte, konzertierte Anstrengung dieses Problem lösen kann.“ Problem."
Neue KI-Tools wie ChatGPT von OpenAI und Bard von Google und viele andere sind so revolutionär, dass Experten sicher sind dass selbst auf diesem Niveau vor der Superintelligenz der Arbeitsplatz und die Gesellschaft insgesamt in naher Zukunft vor grundlegenden Veränderungen stehen werden Begriff.
Aus diesem Grund bemühen sich Regierungen auf der ganzen Welt, aufzuholen und eilen dazu, Vorschriften zu erlassen die sich schnell entwickelnde KI-Industrie, um sicherzustellen, dass die Technologie sicher und verantwortungsvoll eingesetzt wird Benehmen. Sofern jedoch kein einziges Gremium gebildet wird, wird jedes Land seine eigenen Ansichten darüber haben, wie die Technologie am besten genutzt werden kann, was bedeutet, dass diese Vorschriften stark variieren und zu deutlich unterschiedlichen Ergebnissen führen können. Und es sind diese unterschiedlichen Ansätze, die es umso schwieriger machen, das Ziel von Superalignment zu erreichen.
Empfehlungen der Redaktion
- Google Bard kann jetzt sprechen, aber kann es ChatGPT übertönen?
- Elon Musks neues KI-Unternehmen will „das Universum verstehen“
- OpenAI gibt den Standort seines ersten internationalen Außenpostens bekannt
- Anwälte in New York wurden mit einer Geldstrafe belegt, weil sie gefälschte ChatGPT-Fälle in juristischen Schriftstücken verwendet hatten
- Dieser Webbrowser integriert ChatGPT auf faszinierende neue Weise
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
