{"id":15651,"date":"2024-04-24T11:17:02","date_gmt":"2024-04-24T09:17:02","guid":{"rendered":"https:\/\/ea-rlp.de\/?p=15651"},"modified":"2024-04-24T11:17:02","modified_gmt":"2024-04-24T09:17:02","slug":"ueber-die-gefahren-von-kuenstlicher-intelligenz-in-verwaltungen","status":"publish","type":"post","link":"https:\/\/neu.ea-rlp.de\/index.php\/2024\/04\/24\/ueber-die-gefahren-von-kuenstlicher-intelligenz-in-verwaltungen\/","title":{"rendered":"\u00dcber die Gefahren von K\u00fcnstlicher Intelligenz in Verwaltungen"},"content":{"rendered":"\n<p>Generative KI-Modelle, insbesondere gro\u00dfe Sprachmodelle (LLMs), bieten vielf\u00e4ltige M\u00f6glichkeiten, Texte, Bilder und Musik zu erzeugen, indem sie Muster aus Trainingsdaten lernen und anwenden.<\/p>\n\n\n\n<!--more-->\n\n\n\n<figure class=\"wp-block-image size-large is-style-default\"><img decoding=\"async\" src=\"https:\/\/ea-rlp.de\/wp-content\/uploads\/2024\/04\/20240419_132033_Datenanalyse_Modellierungsprozess_Diagramm-1-1280x1248.jpg\" alt=\"\" class=\"wp-image-15653\"\/><\/figure>\n\n\n\n<p><sup>(Grafik: BSI)<\/sup><\/p>\n\n\n\n<p>Diese Technologien k\u00f6nnen in \u00f6ffentlichen Verwaltungen und in Unternehmen zur Effizienzsteigerung beitragen, etwa durch automatisierte Texterstellung oder Datenanalyse. Allerdings bergen sie auch Risiken, besonders im Bereich der IT-Sicherheit, da sie neue Angriffsfl\u00e4chen bieten.&nbsp;<\/p>\n\n\n\n<p>Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) hat eine 36-seitige Brosch\u00fcre zu Chancen und Risiken zusammengestellt und k\u00fcrzlich aktualisiert. Beispielsweise k\u00f6nnten Kriminelle LLMs nutzen, um glaubw\u00fcrdig wirkende, aber falsche Informationen zu verbreiten. Daher ist es entscheidend, dass Entwicklerinnen und Entwickler sowie Betreibende von LLMs eine gr\u00fcndliche Risikoanalyse durchf\u00fchren und Sicherheitsma\u00dfnahmen implementieren. F\u00fcr einen verantwortungsvollen Einsatz ist es au\u00dferdem wichtig, dass Nutzende von LLMs \u00fcber potenzielle Risiken aufgekl\u00e4rt werden und die Technologie kritisch im Hinblick auf Datenschutz und Sicherheit bewerten.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/bwcah.r.sp1-brevo.net\/mk\/cl\/f\/sh\/SMK1E8tHeG13FLXHOI5Zf4mulRoc\/aSTcjWhCOP8A\" target=\"_blank\" rel=\"noreferrer noopener\"><strong>Generative KI-Modelle:<\/strong>\u00a0Chancen und Risiken f\u00fcr Industrie und Beh\u00f6rden (PDF, 36 Seiten, 3 MB<\/a><a href=\"https:\/\/www.bsi.bund.de\/SharedDocs\/Downloads\/DE\/BSI\/KI\/Generative_KI-Modelle.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">)<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Generative KI-Modelle, insbesondere gro\u00dfe Sprachmodelle (LLMs), bieten vielf\u00e4ltige M\u00f6glichkeiten, Texte, Bilder und Musik zu erzeugen, indem sie Muster aus Trainingsdaten lernen und anwenden.<\/p>\n","protected":false},"author":9,"featured_media":15653,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[165,605,730],"class_list":["post-15651","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digitalisierung","tag-bsi","tag-kuenstliche-intelligenz","tag-oeffentliche-verwaltung"],"_links":{"self":[{"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/posts\/15651","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/comments?post=15651"}],"version-history":[{"count":0,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/posts\/15651\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/"}],"wp:attachment":[{"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/media?parent=15651"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/categories?post=15651"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/neu.ea-rlp.de\/index.php\/wp-json\/wp\/v2\/tags?post=15651"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}