Neuigkeiten zu KI

  • Nur weil etwas möglich ist, muss man es nicht automatisch tun. Ich fahr auch nicht 300 auf der Autobahn nur weil es möglich ist (oder jedenfalls nicht illegal ist). Gibt noch andere Maßstäbe im Leben.

    Ich sag ja nichts anderes und ich vermute, das Matze etwas verklausuliert auch Ähnliches sagen wollte: entstandene Technologien (oder ein kultureller Habitus wie Rauchen) lassen sich nur schwer rückabwickeln. Dein Rauchbeispiel war da noch mehr (in meinen Augen weniger) passend, aber das mit Tempo 300 ist ja nochmal eine andere Nummer und wir müssen uns ja nicht absichtlich missverstehen. Rein technisch besitze ich die Möglichkeit dich mit ner Knarre über den Haufen zu schießen, aber logistisch ist es für mich qua Gesetz, kultureller Gepflogenheit und sozialer Konditionierung praktisch unmöglich, es zu tun - ist halt auch wieder etwas anderes.


    Was die LLM und Deepfake Voiceovers etc. anbetrifft, das sind relativ neuartige und offen zugängliche Technologien, wo wir als Gesellschaft auf einem ganz anderen Stand sind. Wenn du Voiceovers verbieten willst, wie sieht es dann mit Imitationen von Parodisten aus? Hat jemand ein Recht auf die Einzigartigkeit seiner Stimme bzw. besitzt er sie auch noch nach dem Tod? Was ist mit dem Drakesong, der nicht von Drake selbst ist, aber tatsächlich einen besseren Flow hat als der Schrott, den Drakes offizielle Ghostwriter produzieren. Das über Menschenwürde zu spielen ist ein netter Versuch, aber juristisch denke ich sind wir noch weit davon entfernt, dass irgendwie etwas in ein Gesetztext gegossen werden könnte (also zumindest in der Kategorie, die du erwähnt hast).

  • Ich erzähle ja schon eine Weile, dass "KI" nicht "I" ist, und dass Large Language Models auf Trickbetrug trainiert werden. Das Optimierungsziel ist, dass der Output für unaufmerksame Beobachter plausibel klingt.Die Modelle "verstehen" nichts und haben auch kein Hintergrundwissen, kennen keine Zusammenhänge, kein Konzept von "Wahrheit". Sie remixen nur, was andere Leute anderswo gesagt haben.

    Mein bisher liebster Artikel zu dieser Thematik ist dieser hier von Michal Zalewski. Viel Spaß bei der Lektüre!

    ...

    LLMs are good at playing you

    Large language models (LLMs) are eerily human-like: in casual conversations, they mimic humans with near-perfect fidelity. Their language capabilities hold promise for some fields — and spell trouble for others. But above all, the models’ apparent intellect makes us ponder the fate of humanity. I don’t know what the future holds, but I think it helps to understand how often the models simply mess with our heads.

    Recall that early LLMs were highly malleable: that is, they would go with the flow of your prompt, with no personal opinions and no objective concept of truth, ethics, or reality. With a gentle nudge, a troll could make them spew out incoherent pseudoscientific babble — or cheerfully advocate for genocide. They had amazing linguistic capabilities, but they were just quirky tools.

    ...

    Then came the breakthrough: reinforcement learning with human feedback (RLHF). This human-guided training strategy made LLMs more lifelike, and it did so in a counterintuitive way: it caused the models to pontificate far more often than they converse. The LLMs learned a range of polite utterances and desirable response structures — including the insistence on being “open-minded” and “willing to learn” — but in reality, they started to ignore most user-supplied factual assertions and claims that didn’t match their training data. They did so because such outliers usually signified a “trick” prompt.

    We did the rest, interpreting their newfound stubbornness as evidence of critical thought. We were impressed that ChatGPT refused to believe the Earth is flat. We didn’t register as strongly that the bot is equally unwilling to accept many true statements. Perhaps we figured the models are merely cautious, another telltale sign of being smart: ...

    Try it yourself: get ChatGPT to accept that Russia might have invaded Ukraine in 2022. It will apologize, talk in hypotheticals, deflect, and try to get you to change topics — but it won’t budge.

    My point is that these emergent mechanisms in LLMs are often simpler than we assume.

    ...

  • https://www.democracynow.org/2…telligence_is_changing_us


    Zitat

    How Artificial Intelligence Is Changing Us & Who Is Building It: Anjan Sundaram & David Wallace-Wells

    We look at artificial intelligence with two guests who have written extensively about the topic. Award-winning journalist Anjan Sundaram hosted the television miniseries Coded World for Channel NewsAsia, Singapore’s national broadcaster, on how artificial intelligence is changing humans. David Wallace-Wells is a New York Times opinion writer who wrote a piece headlined “A.I. Is Being Built by People Who Think It Might Destroy Us.”

    [...]

    Zitat

    On the other hand, you had the government and companies inventing devices such as the Neuro Cap, which is a headset that factory owners are now placing on employees’ heads to monitor their brainwaves as they’re working, and to ascertain for themselves, you know, whether a worker is tired, whether they’re working efficiently, but also, you know, to monitor their thoughts and whether they’re lying about whether they need a bathroom break. So it’s a very authoritarian vision of the use of technology. On the other way, you also had —

    AMY GOODMAN: Wait, wait, wait. Anjan, before you talk about the other hand, can you explain what exactly you just said? Who is doing that?

    ANJAN SUNDARAM: So, I was in Ningbo, a city in southern central China, and I was speaking — I visited a factory where a former university professor had developed this — he called it a Neuro Cap, and he called it a revolution in industrial technology, whereby — you know, I sat with some of the workers, I sat with some of the developers of this technology, and I wore the Neuro Cap myself. And I watched as it monitored different frequencies of my own brainwaves, and would tell me — it would tell the employer — of course, it wouldn’t tell the workers themselves, but it would tell the employer, you know, whether the worker had worked too much, worked too little, whether they were focusing on their job, whether they were thinking about something else.

    And to the employer, this seemed a revolutionary way, in their words, of monitoring their employees and understanding whether they could be more efficient. In a sense, to me, it was converting and transforming the human employee into something much, much more akin to a robot or an automaton by providing very intimate private information about their thoughts, their very thoughts, their most private thoughts, to employers, who were able to monitor their productivity and determine whether they were good workers or bad workers or whether they actually needed a bathroom break or not. And that’s really happening.

    [...]

  • Ich finde diese Entwicklungen beängstigend. Ich denke aber dass viele Leute genau die gleiche Angst haben und dem ganzen eher kritisch gegenüber stehen. Von daher hoffe ich, dass die Leute Technologien wie diese NeuroCaps oder auch ChatBots ablehnen. Klar wird es immer Stories geben von dem einen merkwürdigen Kerl, der seit zehn Jahren mit einer Roboterpuppe zusammen lebt, aber ich denke doch, dass die Mehrheit sowas ablehnt. Ich hoffe es jedenfalls 😅

  • https://www.google.com/amp/s/a…uman-victory-over-ai/amp/


    Dass KI derzeit jeden menschlichen Spieler bei Go besiegt, ist auch schon ein widerlegter Mythos 🤷‍♂️


    Kellin Pelrine, an American player who is one level below the top amateur ranking, beat the machine by taking advantage of a previously unknown flaw that had been identified by another computer. But the head-to-head confrontation in which he won 14 of 15 games was undertaken without direct computer support.


    (add: ein Amateurspieler)


    The triumph, which has not previously been reported, highlighted a weakness in the best Go computer programs that is shared by most of today’s widely used AI systems, including the ChatGPT chatbot created by San Francisco-based OpenAI.


    The tactics that put a human back on top on the Go board were suggested by a computer program that had probed the AI systems looking for weaknesses. The suggested plan was then ruthlessly delivered by Pelrine.


    It was surprisingly easy for us to exploit this system,” said Adam Gleave, chief executive of FAR AI, the Californian research firm that designed the program. The software played more than 1 million games against KataGo, one of the top Go-playing systems, to find a “blind spot” that a human player could take advantage of, he added.

    The winning strategy revealed by the software “is not completely trivial, but it’s not super-difficult” for a human to learn and could be used by an intermediate-level player to beat the machines, said Pelrine. He also used the method to win against another top Go system, Leela Zero.



    The tactics used by Pelrine involved slowly stringing together a large “loop” of stones to encircle one of his opponent’s own groups, while distracting the AI with moves in other corners of the board. The Go-playing bot did not notice its vulnerability, even when the encirclement was nearly complete, Pelrine said.

    “As a human it would be quite easy to spot,” he added.

    The discovery of a weakness in some of the most advanced Go-playing machines points to a fundamental flaw in the deep-learning systems that underpin today’s most advanced AI, said Stuart Russell, a computer science professor at the University of California, Berkeley.

    The systems can “understand” only specific situations they have been exposed to in the past and are unable to generalize in a way that humans find easy, he added.

    It shows once again we’ve been far too hasty to ascribe superhuman levels of intelligence to machines,” Russell said.




    Hm. Hat jemand von euch davon was in den Medien gesehen? 😜 Als AlphaGo 15 mal gegen einen menschlichen Spieler gewonnen hatte, haben die Medien einen Monat lang über nix anderes berichtet.

  • Am Hauptbahnhof von Hamburg wird man bald von KI überwacht...für so einen nutzlosen Müll wie Überwachung und KI ist anscheinend immer ausreichend Geld da, nur für arme Menschen bzw Obdachlose nicht, so wie es hier korrekterweise erwähnt wird.

    Hamburg: Polizei setzt auf KI-Überwachungskameras

    In der Nähe des Hamburger Hauptbahnhofs soll künftig intelligente Überwachungstechnologie zum Einsatz kommen. Diese soll eigenständig „verdächtiges Verhalten“ erkennen. Anwohner:innen und Datenschützer:innen kritisieren die Pläne.

    Der Hansaplatz in der Nähe des Hamburger Hauptbahnhofs gilt für die Polizei als ein Problembereich, da er auch ein Treffpunkt für Obdachlose und Drogenabhängige ist.

    ...

    Kritik gibt es auch jetzt wieder unter anderem von Anwohner:innen: Michael Joho, der Vorsitzender des Einwohnervereins von St. Georg, fragt etwa gegenüber der taz: „Warum wird hier nicht sehr viel mehr dafür getan, dem Elend vieler Obdachloser entgegenzuwirken?“ Er fordert statt Kameraüberwachung niedrigschwellige Anlaufstellen für Geflüchtete und „Housing-first-Projekte“, bei denen Obdachlosen Unterkünfte zur Verfügung gestellt werden.

    ...

    Und das scheint btw auch nicht das erste Projekt von KI Überwachung zu sein...

    ...

    Auch wenn das Hamburger Überwachungsprojekt noch eine relative Seltenheit in Deutschland darstellt, ist es keine Einmaligkeit. So kommt in Mannheim ein System mit Dutzenden Kameras zum Einsatz, das die gleiche Software nutzt. Dabei liegt die Fehlerquote bei etwas über10%. Darüber hinaus gibt es in Rheinland-Pfalz ein Pilotprojekt, bei dem KI-gestützte Kameras von Brücken aus erkennen sollen, ob Autofahrer:innen Handys nutzen.

    ...

    Das hier mal wieder hauptsächlich arme Menschen bekämpft werden sagt auch der CCC...

    ...

    Kritik gibt es unter anderem vom Chaos Computer Club. Dessen Sprecher Matthias Marx meint, die Algorithmen seien nicht transparent und würden dazu führen, dass Menschen sich automatisch angepasst verhalten würden. Insbesondere Obdachlose seien hierdurch betroffen.

    ...

    ...ganz im Sinne von defensiver Architektur etc soll die Armut aus der öffentlichen Wahrnehmung verdrängt werden, KI soll in diesem Fall nur ein weiteres Werkzeug dafür werden.

  • Am Hauptbahnhof von Hamburg wird man bald von KI überwacht...für so einen nutzlosen Müll wie Überwachung und KI ist anscheinend immer ausreichend Geld da, nur für arme Menschen bzw Obdachlose nicht, so wie es hier korrekterweise erwähnt wird.

    Und das scheint btw auch nicht das erste Projekt von KI Überwachung zu sein...

    Das hier mal wieder hauptsächlich arme Menschen bekämpft werden sagt auch der CCC...

    ...ganz im Sinne von defensiver Architektur etc soll die Armut aus der öffentlichen Wahrnehmung verdrängt werden, KI soll in diesem Fall nur ein weiteres Werkzeug dafür werden.


    Dazu sagte Baerbock: "Sicherheit im 21. Jahrhundert bedeutet, in der Apotheke verlässlich lebensnotwendige Medikamente zu bekommen." Unter Resilienz sei aber auch zu verstehen, dass sich der Staat gegen gezielte Desinformationskampagnen aus dem Ausland wehrt und dass man "beim Chatten mit Freunden nicht von China ausspioniert oder beim Scrollen durch die sozialen Netzwerke nicht von russischen Bots manipuliert werde", so Baerbock.


    Tilo frag mal in der BPK dazu:

    Häää :?::?::?: Wie passt das denn zuuuuuusaaaaammmen :?::?::?:

    Unersättlich in jeder Form der Ausschweifung.

    Musik


    Jung, Naiv, Gutaussehend 8)

    Einmal editiert, zuletzt von TrueKraut ()

  • https://blog.fefe.de/?ts=9a6ae7ac



    https://blog.fefe.de/?ts=9a6ba253

    Zitat

    Vielleicht haben wir doch noch eine Chance, die Machtübernahme der AI Overlords zu überleben.

    Retten wird uns ... die Gier.

    A significant proportion of people paid to train AI models may be themselves outsourcing that work to AI, a new study has found.

    Das wäre prima, weil die neue KI dann nicht besser werden kann als die davor.

Jetzt mitmachen!

Du hast noch kein Benutzerkonto auf unserer Seite? Registriere dich kostenlos und nimm an unserer Community teil!