"Human Compatible" ist eine provokative Vorschrift, um AI zu überdenken, bevor es zu spät ist

Dr. Stuart Russell, ein angesehener KI-Forscher und Informatiker an der UC Berkeley, ist der Ansicht, dass das „Standardmodell“ der KI, das unterrichtet wird (und Dr. Russell das Hauptlehrbuch geschrieben hat), und ein grundlegendes und potenziell zivilisationsbedingtes Manko aufweist praktisch überall angewendet. Dr. Russells neues Buch „Human Compatible: Künstliche Intelligenz und das Problem der Kontrolle“ argumentiert, dass die Ankunft der übermenschlichen KI das „letzte Ereignis in der Geschichte der Menschheit“ werden könnte, wenn wir die Bausteine der KI nicht überdenken.
Das klingt vielleicht ein bisschen wild, aber Human Compatible ist eine sorgfältig geschriebene Erklärung der Konzepte, die AI zugrunde liegen, sowie der Geschichte ihrer Entwicklung. Wenn Sie verstehen möchten, wie schnell sich KI entwickelt und warum die Technologie so gefährlich ist, ist Human Compatible Ihr Leitfaden, buchstäblich beginnend mit Aristoteles und endend mit dem OpenAI Five Dota 2-Triumph.
Ein Interview mit Dr. Stuart Russell, Autor von „Human Compatible, Artificial Intelligence and the Problem of Control“

Stuarts Ziel ist es, Nicht-Technologen zu helfen, zu begreifen, warum KI-Systeme so konstruiert werden müssen, dass sie nicht nur die ihnen zugewiesenen „Ziele“ erfüllen, das sogenannte „Standardmodell“ in der heutigen KI-Entwicklung, sondern auch so funktionieren, dass sich Maschinen notwendigerweise dem Menschen unterwerfen : Sie werden um Erlaubnis bitten, sie werden die Korrektur akzeptieren und sie werden sich abschalten lassen. “