TikTok ist Gatekeeper, entscheidet die EU | Podcast-News #99

[0:00]
Einführung und Jubiläum
[0:00]Onlinegeister, Hausmeistereien herzlich willkommen liebe Podcast-Hörer und willkommen zurück liebe Radiohörer, Zum letzten Mal im zweistelligen Folge Nummer 99 machen das jetzt seit 99 Monaten in Folge kein einziger Ausfall. Wir waren natürlich häufig krank gewesen in den acht Jahren, aber wir haben’s immer hinbekommen, die Folgen rechtzeitig zu produzieren, Das verdient zumindest mal einen kleinen Klops auf die Schulter bei uns jetzt hier im Studio, ähm weil es wirklich also für mich das längste Projekt ist, was ich jemals gemacht habe, Mein Theatergruppe bin ich etwas länger als Onlinegeister, Ja aber ich meine es ist schon, ich meine, wir machen ja auch weiter, schauen wir mal, wann wir vielleicht enden, aber, Heute sind wir fast am Ende. Haben wir noch? Genau, wir bringen euch oh, wir bringen euch noch auf den aktuellen Stand mit ein paar News,
[0:56]
AI-Act der EU
[0:51]beginnt mehr oder meins, der AI-Act der EU kommt, was bedeutet das für uns eigentlich? Die weltweite erste Regulierung von künstlicher Intelligenz ist in Kraft getreten, der der AI-Act der Europäischen Union und das kommt auf Unternehmen und Verbraucher zu.
[1:06]Einmal der AI-Acts äh kann KI-Wendung einer Risikoklassen unterteilen, also die Gefahr, die für die Grundrechte, die Gesundheit und die Sicherheit von EU-Bürgern halt eben damit einhergeht, also beispielsweise biometrische Identifikation Echtzeit. Ähm, ist halt eben von äh ist halt so eine bestimmte Risikoklasse, die halt äh.
[1:29]
Folgen für Unternehmen
[1:26]Nicht einfach so gemacht werden darf. Also das hat dann auch Folgen für die entsprechenden Unternehmen. Äh genauso Einschätzung von Emotionen von Mensch am Arbeitsplatz, Systemen zur vorausschauenden Polizeiarbeit, also sogenanntes predictive Policing. Siehe Film wie Report et cetera und Entwickler, Betreiber, Anbieter von derart kritischer KI-Anwendung müssen diese ab dem zweiten Februar 2025 entweder, einstellen, also abstellen oder vom Markt nehmen oder eben ungefährlich machen, also eben rechtskonform machen, denn Ab August 2026 ist die KI-Verordnung komplett umzusetzen, also vom Februar 25 bis August 26 ist Übergangszeitraum
[2:17]
Trainingsdaten von KI-Modellen
[2:06]Und KIs, die ja eben beispielsweise für Personalwesen, Beurteilung von Kredit, Versicherungs äh Risiken oder Gesundheitswesen oder sonstiges äh da sind, müssen dann halt eben entsprechend strenge Vorgaben erfüllen. Das ist jetzt also nur für Entwickler. Relevant ist. Aber für diejenigen, die von euch vielleicht mit KIs herumspielen, The more you know, jetzt wisst ihr schon mal Bescheid, was auf euch zukommt. Mhm. Interessanter für die Öffentlichkeit könnte das sein, dass es Trainingsdaten von Large Language-Modellen, als auch für Chat GPT die müssten künftig veröffentlicht werden, entweder wenn die EU-Kommission das so verlangt oder der gesamte Rechtenaufwand mehr als zehn hoch fünfundzwanzig.
[2:38]
Gleitkammeroperationen
[2:38]Gleitkormo-Operation erfordert. Da mögen unsere Zuschauer, äh unsere Zuhörer uns dann einfach mal kurz äh zuschreiben, was Gleitkammeroperationen sind. Wir werden uns jetzt nicht die Zeit nehmen lassen, Detail zu erklären. Man möge Wikipedia und Co dazu äh mit nutzen was ein cooler Prozessor den ganzen Tag macht, Also es ist einiges, was das halt eben mit umfasst. Und äh ja, wer ab August zwanzigsechsundzwanzig, also wenn dann halt eben der AIA komplett gilt Wer dann hochriskante KI-Systeme verkauft, da wird’s dann auch wieder für, ja, Verkäufer, also ihr müsst die Dinger nicht entwickeln, ihr müsst, es reicht ja schon, wenn ihr die vertreibt.
[3:12]Äh ihr müsst dann halt eben nachweisen äh das diese Anwendung, die Vorgaben des AI-Acts entsprechen und das Ganze muss dann in einer entsprechenden Datenbank der EU registriert werden. Die wird auch gerade aufgebaut. Ähm oder ihr müsst selbsterklären, dass die eigene.
[3:28]
Registrierung und Konformität
[3:28]EU-konformes, also wir haben jetzt nicht nur mehr äh DSGVO konform für Datenschutz, wir haben jetzt auch KI konform für einen AI-Ack dann. Ähm das kann aber gefährlich werden, wenn man’s selbst macht, wenn Haftung und so weiter, Die Kontrollenüberwachung der Konformität unterliegt dann dem European Artificial Intelligent Sport, dem EAIB, einer Behörde, die die EU zurzeit einrichtet. Also, dass für alle Leute, die damit irgendwie, ich sage mal, Handel betreiben wollen. Ja. Und jetzt kommt der eigentlich interessante Parfüm, wahrscheinlich die Masse von den Hörern. Ja, dann auch Anwender stehen der Pflicht, denn wenn nämlich, wenn sie hochriskante KI-Anwendungen nutzen, sie dürfen diese nur entsprechenden Anweisungen des Entwicklers des Systems einsetzen und müssen sicherstellen, dass der von ihnen für das weitere Training des Modells genutzte Input repräsentativ und valide ist.
[4:12]
Verantwortung der Anwender
[4:13]Beides haben kompetente Personen in jedem Betrieb zu verantworten Anwender müssen aus dem Ermitteln, ob und wenn ja, inwieweit die von Ihnen genutzten KI-Grundrechte beeinträchtigt, um Mitarbeiter darüber informieren, wenn Sie am Arbeitsplatz einem hochriskanten KI-System ausgesetzt sind. Zwischenfall und bis dahin Zwischen Fälle und bis dahin unerkannte Risiken müssen Nutzer in Aufsichtsbehörden auf nationaler und EU-Ebene melden, also in der Kurzzusammenfassung für Anwender, also sprich.
[4:40]Alle von uns, die mit irgendeinem KI-System jeweils was zu tun haben, auch wenn wir es nur bei Chat GBT mal ein bisschen rumgedaddelt haben oder halt eben vielleicht ein spezielles KI-System, das ist immer die Frage Ist das noch ein Algorithmus oder ist es schon eine KI, das ist ja manchmal nur das Marketing, was das unterscheidet. Aber sobald ihr mit so einem Ding arbeitet, in irgendeiner Form müsst ihr euch halt eben daran halten, was der Entwickler sagt, was ihr machen dürft.
[5:01]Oder ihr müsst halt eben einen, ich nenne das Ding jetzt mal KI-Beauftragten, das hat jetzt bislang noch keinen offiziellen Namen, also wie es einen Datenschutzbeauftragten gibt, wird’s wahrscheinlich auch einen KI-Beauftragten, ob so oder so ähnlich heißend äh geben und die Person wird sich dann eben auch um das Thema kümmern. Ich selbst bin gerade in entsprechenden Weiterbildungen auch für das Thema, äh was halt eben das angeht. Aber ich meine, AID, das ist halt eben in bis zu zwei Jahren, also da geht da fließt noch ein bisschen äh Wasser die Sahne runter an der Stelle. Mhm. Aber das ist ja jetzt erstmal das, was halt eben gemacht werden soll. Also wenn halt eben zum Beispiel Open Air, als Entwickler von dieser Tür, müsst ihr euch so und so an dieses und jenes halten, dann gilt das halt äh ohne dass jetzt technisch das Ganze auch abstellen müsst. Also wenn ihr, Unrechtmäßig mit der KI irgendwas anfangt, dann könnt ihr Ärger bekommen mit dem Gesetz an der Stelle. Äh also da weiß ich nicht, ob das nicht vielleicht noch mal geändert werden muss, aber da sind nämlich auch noch mal der richtige Part. Wer nämlich gegen solche Sachen verstößt, muss sich auf den Bußgeld einstellen. Ja und zwar von bis zu 7 Prozent seines weltweiten Jahresumsatzes oder maximal 35 Millionen Euro siehe DSGVO, da sind’s ein bisschen geringere Werte. Also das betrifft jetzt nicht unbedingt dann immer jeden Einzelnutzer, da geht’s auch wieder eher um die Anbieter, Entwickler vom Ganzen. Ja. 7 Prozent von deinem oder meinen weltweiten Jahresumsatz jetzt nicht so wahnsinnig viel nehme ich an, also es würde schon weh tun, wenn du’s bezahlen müsstest. Äh ja schon, also es soll ja auch wie.
[6:23]Glaube, so größere Unternehmen, also Open Air, Meta, Google, ähm die tut das Linus glaube ich mehr weh. Die soll Auch schon an der Grenze von den 35 Millionen. Ja, wobei immer die Frage ist, äh in welcher Größenordnung sieht das denn bei denen jeweils mit abspielt, ob die das vielleicht auch schon mit eingepreist haben, aber schon beim Datenschutz eine alte, eine alte Leier.
[6:41]
EU-KI-Pakt
[6:42]Hilfestellung gibt’s aber trotzdem auch. Die EU-Kommission hat inzwischen einen sogenannten KI-Pakt ins Leben gerufen. Firmen und Organisationen können sich dort freiwillig verpflichten, diesem Gesetz, vorzugreifen und mit der Umsetzung vor Ablauf der gesetzlichen Frist zu beginnen, Also quasi äh voraus eine Gehorsam, wenn man so möchte und im Gegenzug sollen die halt eben von Austausch mit der Kommission und anderen Beteiligten profitieren. Also quasi wir kriegen eine Art Coaching Ich habe mich da auch inzwischen schon registriert, warte noch auf eine Rückmeldung äh und ja schon mehrere hundert Organisationen sind diesem Pakt beigetreten und äh ich bei mir im Unternehmen, also bei unserem Start-up der Seminare entwickeln auch wirklich gerade ein eigenes KI-Modell Ich benutze selbst regelmäßig in der Regel täglich KI-Systeme, wie geben die und Co. Also ich äh würde mich das ein normaler Alltag inzwischen geboren. Insofern für mich eine sehr relevante Meldung schreibt uns, liebe Hörer vielleicht mal, ob’s euch überhaupt eine Rolle gespielt hat, dass wir auch wissen, wie wir unsere News anpassen müssen. Ja also für mich kann ich nur sagen, auf Arbeitsspiele ist aktuell mir noch keine Rolle. Weiß nicht, ob da irgendwas dazukommt. Ähm wo sind gerade viele Änderungen bei uns? Äh im privaten Umfeld.
[7:44]Höchstens eine Spielerei. Also ich würde jetzt nichts vermissen, wenn ich plötzlich nicht mehr interg was eintippen dürfte, Also wie gesagt, für mich ist es inzwischen eine ziemlich große Arbeitserleichterung geworden für diverse Texten haben natürlich immer mit der Abgrenzung und Eingrenzung, was halt eben KI so kann, also Stichwort Promptentschnee, haben wir auch schon mal eine Folge gemacht. Dann Meldung Nummer zwei.
[8:04]
TikTok als Plattformbetreiber
[8:04]TikTok ist jetzt ein Gate-Keyboard hat die Europäische Union entschieden, genauer gesagt der Europäische Gerichtshof. Bight Dance, dass Betreiberunternehmen von TikTok gilt jetzt als großer Plattformbetreiber im Sinne des Digital Markets der Europäischen Union, In der deutschen Variante wahrscheinlich Gesetz über digitale Märkte heißen wird und das heißt einfach nur, äh dass TikTok hat eben so große Plattformbetreibers, dass der äh sozusagen ist mal mehr oder weniger staatliche Funktionen mit übernehmen muss, also im Sinne von es ist nicht wie ein normales Unternehmen äh dann äh zu behandeln und die müssen halt eben diverse Sachen sicher stellen, was jetzt Stichwort Barrierefreiheit angeht, was andere Aspekte mit Jugendschutz genau. Äh also
[8:54]
Open Air vs. Google Search GPT
[8:45]Ich sage mal, ist ein Gewinn für äh Minderheitenschutz und für die Freiheitsrechte äh bei uns im Land, also in dem Fall eine positiv Meldung, kann man auf jeden Fall sagen. So. KI versus Google, Open Air I stellt Search GPT vor. Und Open Air hat die Testphase für seine KI Suchmaschine Search GPT eröffnet. Search GPT sucht aus Quellen im Internet eine Antwort zusammen, die die NutzerInnen auf ihre Frage ausgespielt bekommen, Aus aktuell ist die KI-Suchmaschine in der Testphase nur für wenige NutzerInnen zugänglich. Ein veröffentlichtes Video zeigt allerdings bereits, wie es DBT eine fehlerhafte Antwort gibt, Generell ist das Halluzinieren von Sprachmodell ein bekanntes Problem und das wird dann da wohl auch weiterhin passieren.
[9:23]Deswegen mein Kommentar dazu, Google war mit seinen generativen Antworten vor ein paar Monaten schon auf die Nase gefallen. Äh sie Empfehlung von Bastelkleber für eine cremigere Käsesoße. Also ist fraglich, ob das für GBT, wird. Also das Thema an sich ist extrem spannend. Wir schauen also mal, wohin sich das entwickelt. Momentan wissen wir aber noch nicht, ob das jetzt ob’s nicht vielleicht noch ein bisschen sehr früh ist, aber es ist halt so, der erste direkte Angriff von Open Air auf Google, in dem man eben Suchfunktion integriert wird dort.
[9:51]
Training von Sprachmodellen
[9:52]In ähnliche Richtung geht noch eine kurze, schnelle Meldung, was passiert, wenn Sprachmodelle mit Texten von Sprachmodellen trainiert werden, Müll geht rein, Müll geht raus, so ließe sich ein neues Paper zusammenfassen, das forschen aus Kanada und Großbritannien jetzt in Nature veröffentlicht haben, ein großes Sprachmodell, LLM. Ja, das wird synthetisch, synthetischen Daten trainiert wird, die Sales produziert, liefert immer schlechteren Output. Und nach ein paar Durchläufen stammelte es nur noch, es kollabierte, Tetra N, drüber geschrieben tot. Ist halt die Frage, ob das dauerhaft so sein wird, das war jetzt natürlich ein experimenteller Ablauf gewesen.
[10:26]
Musik von A World Reegnited
[10:26]Das nur kurz zum Schluss. Wir haben wieder Musik für euch, die ihr frei verwenden dürft, nämlich von A World Reegnited ein Projekt von overclocked Remix, die Musik aus der Spielereihe Golden Sun nehmen und remixen, neu komponieren, neu arrangieren und wir haben jetzt das Intro-Lead, Abschluss unserer Sendung, aber na ja, ihr dürft es kostenlos verwenden, nicht kommerziell, wenn ihr die äh Urheber nennt, Sam Dillard hat Golden Sunrise geschrieben.
[10:52]Music.
[15:26]Golden Sunrise, ein Titel aus A World Regnited, dem Overlock Remix Album äh zum Spiel Golden Sun Musik, die ihr nicht kommerziell verwenden wird. Dieser Titel war neu arrangiert von Sam Dillard und damit sind wir am Ende der Online-Geist angekommen. Folge neunundneunzig. Das, was wir heute. Trissel hat mich sehr gefreut. Hat mich auch sehr gefreut Christian. Nächsten Mal. Genau, in unserer Folge 100 geht es dann um Vittes Internet. Erwachsen wurde und wir mit ihm, Bis dahin.
[15:56]Music.
[16:06]Das war Onlinegeister. Radio bei Netzkultur, Social Media und PR. Von und mit Tristan BLET, Christian Alner. Alle Links zur Sendung Kontaktmöglichkeiten des Archiv zum Nachhören gibt es unter WWW Punkt Onlinegeister.
[16:23]Music.