Beiträge von AlienObserver

Zitat von RobFord Lumpen-Pazifist

Umso weniger verständlich, warum du nach so einer so eloquent vorgtragen starken Behauptung ausgerechnet auf der Ziellininie kneifst und dann noch mit so einer ulkigen Begründung, die eher nach einer selbstgefälligen Ausrede klingt. Ich hatte wirklich Hoffnung, aber jetzt wirkt es, als wäre ich einem Klickköder auf den Leim gegangen.

Wieder hast du eine starke Aussage gemacht und die nicht begründet. Dass der Westen zu Beginn der Kolonialzeit weiter entwickelt war, dafür hätte ich mir keine selbstgefällige raterei sondern eine Quelle gewünscht.

Zitat von RobFord Lumpen-Pazifist

Ich finde auch, dass er den hoffnungslos verlorenen Zug wieder eingegleist hat. Leider ging es danach aber etwas halbherzig weiter. Ich hoffe ja persönlich, dass Jonny für ihn einspringt, weil damit kennt der sich gut aus.

Ich finde es generell wichtig, dass man sich klar macht, wer denn eigentlich berufen ist die Argumente zu begründen. Oft verläuft die Diskussion so, dass ich ein Beispiel nenne, aber das aus irgendwelchen Gründen abgelehnt wird und sich das ganze im Karussell dreht. Wer starke Annahmen macht muss diese begründen. Das gebietet die sachliche Diskussion.

Dass es also in egalitären Gesellschaften nicht zur Komplexität der industriellen Entwicklung kommen könnte ist eine pure Annahme, völlig ungestützt von Wissenschaft. Das einzige worauf wir uns stützen können sind historisch Beispiele vor der Kolonialzeit. Aber diese bestätigen diese starken Annahmen nicht. Im Gegenteil.

Also ist es nicht an mir meinen Widerspruch zu den Thesen zu belegen , sondern an denen die sie äußern.

Weil eine Gesellschaft (der Westen) zu einer Zeit als global die technologische Entwicklung einigermaßen ausgeglichen war, alle anderen überfallen, unterjocht und z.t. ausgelöscht hat, behaupten Vertreter dieser westlichen Gesellschaft, dass die historisch folgende technische Entwicklung nur im Westen stattfinden konnte. Das ist eine sehr starke Behauptung.

Wer das behauptet muss den Beweis liefern, nicht diejenigen die das nicht behaupten. Von anderen den Beweis gegen diese Behauptung zu fordern ist in sich schon ein Ausdruck von bias.

Da sich vorher die technologische und soziale Entwicklung unabhängig entwickelt hat, manchmal schneller als im Westen, manchmal langsamer gibt es dafür kein Argument.

Ehrlich gesagt ist mir das zu mühsam dich da zu unterrichten, und belasse das bei: dann liess doch das Buch.

Zitat von fruchtoase

Und jetzt schaust Du mal in den von Dir geposteten Link an diese Stelle und vergleichst das mit dem, was ich hier seit Beginn der Diskussion wieder und wieder herunterbete: Ein Zusammenleben ohne artifizielle "Führungsebene" ist nur möglich in sozialen Gruppen, in denen jeder jeden kennt.

Dass das in diesen geht, bestreitet genau niemand. Und dass ein charismatischer Führer nichts befehlen muss, ist auch keine neue Erkenntnis. Das wird aber immer schwieriger, je größer die Entfremdung zwischen "Führer" und "Volk" in echt ist (manche Aspekte moderner Medien können durch Entfremdung und damit verbundener medialer Inszenierung dies noch positiv ausnutzen, aber der persönliche Kontakt ist letztendlich durch nichts zu ersetzen).

Jetzt haben wir dummerweise das Problem, dass selbst ein mittelgroßes deutsches Dorf schon tausende Menschen beherbergt, die sich idR maximal vom zufällig irgendwo sehen kennen, da funktioniert das mit dem charismatischen Führer relativ selbsterklärend eben einfach nicht mehr. Und da haben wir von Städten mit tausenden Einwohnern lokal, einer komplex vernetzten mobilen Gesellschaft von Millionen regional und Handel und Produktionsverknüpfung mit Milliarden Menschen weltweit noch gar nicht gesprochen...

Dass die egalitären Kulturen irgendwie "primitiv" oder tribal oder wenig Komplex waren ist eben just so eines von den Vorurteilen mit denen Graeber und Wengrow aufräumen.

Das ist eben einfach nicht er Fall, dass Hierarchie und Komplexität der Gesellschaft miteinander verknüpft wären, die Daten geben das nicht her, es entspricht in keinster Weise der Forschung heute, aber hält sich dennoch als Mythos.

Auf jedenfall würde die Diskussion an Substanz gewinnen, wenn bestimmte Mythen über egalitäre Gesellschaften und ihre Existenz in unserer Vergangenheit als solche aufgeklärt würden. Wengrow und Graeber wollen genau das, und die Argumentation die z.B. RobFord Gesinnungsgenosse bemüht ist beispielhaft für die Mythen über egalitäre Systeme die in unserer Hierarchischen Gesellschaft existieren.

Ich empfehle jedenfalls das obige Interview um möglicherweise existierende fasche Vorstellungen auszuräumen.

Also, ich glaube was hier passiert ist, dass Herrschaft und (natürliche) Autorität verwechselt werden.

In egalitären herrschaftsfreien Gesellschaften, wie z.B. den Haudenosaunee in Nord America, gab es Häuptlinge die Autorität hatten und über ein hohes Charisma und hervorragende Überzeugungskraft verfügten, diese hatten aber keine Herrschaft über andere.

Ein Häuptling der Haudeosaunee konnte niemandem etwas befehlen, sondern musste andere Überzeugen seinen Vorschlägen zu folgen. (Siehe Prof. David Wengrow, David Graeber "The Dawn of everything").

Zitat von Marner

Teilrichtig; wir haben eben eine der besten Organisationsformen auf dieser Erde hier bei uns in Deutschland, relativ zu all den anderen Ländern, sowohl politisch als auch technologisch, das jetzt zum Rumprobieren aus dem Fenster zu werfen ist einfach zu heiß.

Es besteht die realistische Gefahr, dass man, selbst wenn man den marxsozialistischen anarcho Brüdery ihren Käse glaubt, und Revolte macht, ausreichend Technologie verloren geht, dass wir vergessen können auch nur Klimawandelanpassung betreiben zu können.

Es besteht die Gefahr dass wenn die Kapitalistische, imperialistische Lebensweise der Konkurrenz, Ausbeutung und des Überkonsums sich fortsetzt, dass sicher passiert. Wenn man etwas retten will, dann kann das nur über den Leichnam des Kapitalismus geschehen.

Wenn der uns aber in eine Phase der Klimahölle und faschistischen Gewaltherrschaft führt, weil er an sich selbst zu Grunde geht, dann sehe ich uns eher in der Steinzeit enden.

Ohne dass anerkannt wird, dass das Ende des Kapitalismus auf Grund des Overshoots und dem Ende des Wachstums uns gerade passiert, sind diese Diskussionen leider Fruchtlos.

Die von dir gelobte Organisation funktioniert eben nur wenn sie mit Energie im Überfluss und dadurch generierten Wachstum einhergeht, scheitert aber wenn diese Bedingungen nicht mehr existieren.

Die einzige Diskussion die zu führen eigentlich den Atem wert ist, ist wie sieht die Postwachstumsgesellschaft aus, weshalb Utans Vorschläge die sind die die reelle historische Entwicklung in der wir uns befinden anerkennen, während die deine an Blindheit gegenüber dieser Entwicklung leiden.

Ich wohn ja hier in München. Dass ich hier keine Räterepublik mehr habe, liegt ja nicht daran, dass wir menschen das eben auf Grund unserer Natur nicht hinkriegen würden, sondern daran dass mein Opa und andere Faschisten diese niedergeschossen haben. (Zitat meines Schwäbisch sprechenden Opa: "die hänma halt zamgschossa").

aber dass sowas vor garnicht allzulanger zeit schonmal in meiner Heimatstadt versucht wurde, sagt doch auch dass es nicht total verrückt ist diese Idee voranbringen zu wollen.

Ich hab keine Lust mehr auf diese Diskussion. Das ist wirklich Whataboutism den du hier betreibst. Das ist mir zu mühsam. Die Argument der Studie stehen im Raum, ob man das EROI nennt ist mir schnuppe, Anscheinnd kann da keine Diskussion um das egentliche Thema stattfinden.

Zitat von AlgorithmWatch demands the regulation of General Purpose AI in the AI Act

Applications like ChatGPT and Midjourney are all the rage now. Many people had a go with them in the last couple of months and were stunned by what these systems are capable of. It was almost impossible not to hear about them in the media, but the coverage often took a sensationalist turn by declaring that AI systems could get out of control and eventually make humanity become their lackey. Or is there a grain of truth in it and the concerns in regard to large generative systems, so-called General Purpose AI (GPAI), are indeed justified?

AlgorithmWatch considers these applications to be a huge step forward in the development of algorithmic systems. To discredit them as gigantic calculators wouldn’t do justice to their capabilities. Playing them down amounts to playing down the risks coming with them. GPAI pose a risk to our fundamental rights, they can discriminate against people and breach people's right to privacy. To train their models, Big Tech companies such as OpenAI are exploiting people in the global south, and the systems’ energy consumption is aggravating the climate crisis. At the same time, only very few global players have the financial means that are necessary to invest in the development of generative AI which facilitates monopolization.

It is already today that, with just a few clicks, these systems generate misleading and manipulative images that are virtually indistinguishable from photographs, produce a staggering amount of fake news very fast and at extremely low cost, and make people believe that they are dealing with a vivid mind equipped with intentions. All this has the potential to poison the sphere of public debate, that is the core of democratic decision-making, from which malicious actors might benefit now and in the future. The providers of systems that promote such developments must be held accountable.

Alarmist warnings that GPAI might put an end to humanity are devoid of any foundation, being motivated by a political strategy: „Horror scenarios as such are designed to distract us from the systems‘ dangerous impacts that have to be addressed immediately with adequate means,”saysMatthias Spielkamp, AlgorithmWatch’s founder and executive director. „They steer away our attention and energy to, after all we know, extremely unrealistic risks, one of them being the possibility that the systems get out of control.“

These scenarios are rooted in the so-called longtermism ideology that gives priority to improving the long-term future and neglects negative impacts on today’s world population. This is one of the reasons why AlgorithmWatch doesn’t support the Future of Life Institute’s open letter calling for a six months break in the development of these systems. The open letter’s suggestions are utterly unsuitable for containing the very real risks of GPAI.

„Companies like Microsoft, Google, or Meta/Facebook have invested billions in GPAI. Asking them for a sixth months break won’t protect the world from the negative effects the development of GPAI has already set in motion. Instead, such a break would contribute to reinforce a monopoly in defining what an ‘ethical’ AI system is,” says Angela Müller, Head of Policy and Advocacy at AlgorithmWatch and Head of AlgorithmWatch CH in Zurich. „It would only serve the interests of private people who are not democratically legitimized, which includes first and foremost their profit interests,” Angela Müller adds. “We have to make sure that the companies being responsible for developing and implementing these systems won’t shuffle off the responsibility for how the systems are used any longer. Now it's up to politics.

AlgorithmWatch joins the analysis of a group of international AI experts (see below for details) who have worked out suggestions for how the EU’s draft AI Act could ensure that the risk of harms caused by GPAI is adequately addressed and reduced. In December, the EU member states reached an agreement in the Council which said that the AI Act should specifically regulate so-called General Purpose AI (GPAI). GPAI include the currently intensely discussed Large Language Models (LLM). Right now, the EU Parliament is working on its positions for the draft AI Act. Subsequently, the Council, the Parliament, and the Commission deliberate on them in the so-called trilogue negotiations. After the three institutions will reach a final agreement, the law can be adopted.

We specifically demand that the European legislators – especially the German Government – and the European Parliament implement the following recommendations in the trilogue negotiations on the draft AI Act:

• GPAI is an expansive category. For the EU AI Act to be future proof, it must apply across a spectrum of technologies, rather than be narrowly scoped to chatbots/large language models (LLMs). The definition used in the Council of the EU’s general approach for trilogue negotiations provides a good model.

Note by AlgorithmWatch: The definition on which the EU member states‘ representatives agreed on before entering the trilogue negotiation phase says: “’general purpose AI system’ means an AI system that - irrespective of how it is placed on the market or put into service, including as open source software - is intended by the provider to perform generally applicable functions such as image and speech recognition, audio and video generation, pattern detection, question answering, translation and others; a general purpose AI system may be used in a plurality of contexts and be integrated in a plurality of other AI systems.” (https://data.consilium.europa.…ST-14954-2022-INIT/en/pdf)

• GPAI models carry inherent risks and have caused demonstrated and wide-ranging
  
  harms. While these risks can be carried over to a wide range of downstream actors and applications, they cannot be effectively mitigated at the application layer.
• GPAI must be regulated throughout the product cycle, not just at the application layer, in order to account for the range of stakeholders involved. The original development stage is crucial, and the companies developing these models must be accountable for the data they use and design choices they make. Without regulation at the development layer, the current structure of the AI supply chain effectively enables actors developing these models to profit from a distant downstream application while evading any corresponding responsibility.

Note by AlgorithmWatch: Businesses as well as authorities integrate GPAI systems that were not developed by themselves and are not being controlled by them via software interfaces into products and services that are offered to people or applied to them. These businesses and authorities are also responsible for the employment of their systems. This doesn’t mean that the companies having developed the systems aren’t accountable for them anymore.

• Developers of GPAI should not be able to relinquish responsibility using a standard legal disclaimer. Such an approach creates a dangerous loophole that lets original developers of GPAI (often well-resourced large companies) off the hook, instead placing sole responsibility with downstream actors that lack the resources, access, and ability to mitigate all risks.
• Regulation should avoid endorsing narrow methods of evaluation and scrutiny for GPAI that could result in a superficial checkbox exercise. This is an active and hotly contested area of research and should be subject to wide consultation, including with civil society, researchers and other non-industry participants. Standardized documentation practice and other approaches to evaluate GPAI models, specifically generative AI models, across many kinds of harm are an active area of research. Regulation should avoid endorsing narrow methods of evaluation and scrutiny to prevent this from resulting in a superficial checkbox exercise.

Alles anzeigen

Zitat von "Es ist eine Illusion, dass Algorithmen immer richtig liegen"

Algorithmen bestimmen immer mehr unser Leben. Warum Computer nicht alles wissen und wir sie kontrollieren müssen, erklären zwei Expertinnen der Initiative Algorithm Watch.

Sie wählen für uns aus, was für Einträge wir auf Facebook sehen und entscheiden darüber, ob wir einen Kredit bekommen oder nicht: Algorithmen. Die Initiative „Algorithm Watch“ beobachtet diese Prozesse und will für eine gesellschaftliche Debatte sorgen. Die futurezone bat Universitätsprofessorin Katharina Zweig, die am Informatikinstitut an der TU Kaiserslautern lehrt sowie die Philosophin Lorena Jaume-Palasi, die an der Ludwig-Maximilians-Universität München forscht, zum Gespräch.

Futurezone: Ihr seid zwei der Gründerinnen von „Algorithm Watch“. Was genau habt ihr mit der Initiative geplant?

Katharina Zweig: Derzeit sind wir vier Leute. Wir haben auch unlängst eine gemeinnützige GmbH gegründet. Wir wollen alle, die sich für dieses Thema interessieren, vernetzen und dabei helfen, eine unabhängige Kontrollinstitution auf den Weg zu bringen. Mir als Informatikerin ist es aber wichtig, dass wir nicht anfangen, alle Algorithmen kontrollieren und regulieren zu wollen, sondern nur die, die unsere Demokratie ernsthaft erschüttern können.

Algorithmen nehmen einen immer größeren Einfluss auf unser Leben. Wie kann man den Leuten am besten erklären, dass sie das alle betrifft?

Lorena Jaume-Palasi: Ich gebe immer folgendes Beispiel: Wenn wir im Internet eine Reise kaufen, rechnen im Hintergrund Algorithmen aus, ob wir einen PC oder Mac benutzen, aus welchem Land wir kommen und vieles mehr. Anhand dieser Dinge werden die Preise unterschiedlich berechnet. Da werden die Menschen immer hellhörig.

Algorithmen sind nie frei von Vorurteilen und Diskriminierung. Warum haben sie dann trotzdem bei vielen Menschen einen guten Ruf, den der „allumfassenden Weisheit“?

Zweig: Das ist wie beim Gefühl mit dem Kopfrechnen und dem Taschenrechner. Mit der Maschine war plötzlich alles richtig. Wir haben das Erlebnis, dass ein Computer etwas fehlerfrei macht, tief in uns abgespeichert. Doch das Verrechnen kann auch Computern passieren. Es ist eine Illusion, dass die Lösung danach immer richtig ist. Das können wir als Nutzer aber ganz selten nachvollziehen.

Künftig werden viele Entscheidungen von Algorithmen getroffen. Wieso sollten wir Algorithmen vertrauen?

Zweig: Ein normaler Arzt sieht seltene Krankheiten etwa zwei bis drei Mal in seinem Leben. Da kann er nicht viel lernen davon. Aber ein Algorithmus kann von beliebig vielen Ärzten lernen, Muster sammeln und so rauskriegen, wie jemand behandelt gehört.

Aber es ist nicht jedes Beispiel so positiv? Was passiert etwa, wenn ein Algorithmus über die Kreditwürdigkeit eines Einzelnen entscheidet?

Zweig: Wenn Algorithmen gut gemacht sind, ist nachvollziehbar, warum ein Algorithmus so entschieden hat. Der Mensch kann dann immer noch eingreifen. Wenn sie schlecht gemacht sind, verbergen sie Entscheidungen hinter undurchsichtigen Methoden.

Wo wäre so etwas besonders kritisch?

Zweig: In den USA gibt es bereits eine Rückfälligkeitsvorhersage für Kriminelle. Dabei entscheidet ein Algorithmus, ob jemand wieder freigelassen wird oder nicht. Derselbe Algorithmus könnte etwa nur dazu verwendet werden, um rauszufinden, ob man jemandem einen Wiedereingliederungsberater zur Verfügung stellen sollte oder ob das nicht notwendig ist. Auch Algorithmen irren sich immer und stecken Menschen in eine Schublade, in die sie nicht hingehören. Um Algorithmen zu verbessern, müsste man auch mal das Gegenteil tun, von dem, was sie vorschlagen.

Kann man das?

Zweig: Bei sozialen Netzwerken ist das kein Problem. Da wird dauernd an den Algorithmen herumgeschraubt. Das nennt man „AB Testing“. Gruppe A bekommt das angezeigt und Gruppe B das Gegenteil und dann schaut man, was besser funktioniert. Bei gesellschaftlich relevanten Dingen kann man das nicht machen. Daher ist es äußerst bedenklich, wenn Algorithmen über die Freiheit von Menschen entscheiden.

Wie etwa bei der Rückfälligkeitsprognose, die es in den USA gibt.

Zweig: Wir konnten uns diese Algorithmen im Zuge unserer Forschung ansehen. Sie treffen ihre Entscheidungen nach einem Qualitätsmaß, der mit der Situation im Strafvollzug nichts zu tun hat. Das ist, wie wenn ein Auto ausschließlich nach der Qualität der Reifen beurteilt wird. Eine Studie von ProPublica hat gezeigt, dass bei Schwarzen öfters davon ausgegangen wird, dass jemand rückfällig wird als bei Weißen. Der Algorithmus ist daher auch noch rassistisch.

Wie kann man Algorithmen möglichst frei von Diskriminierung machen?

Jaume-Palasi: Wenn eine Gesellschaft sich hoch rassistisch ausdrückt und sehr diskriminierende Sprache verwendet darf man sich nicht wundern, wenn sich das auch in Algorithmen widerspiegelt. Aber Diskriminierung an sich kann auch legitim und positiv sein. Es ist nicht immer schlecht, ungleiche Menschen ungleich zu behandeln. Dasselbe brauchen wir auch bei Algorithmen.

Die Algorithmen von Facebook oder Google zählen zu den mächtigsten der Welt. Sie werden laufend angepasst, aber nicht offen gelegt. Gehört das geändert?

Zweig: Ich bin darüber sehr froh, dass sie ihre Algorithmen nicht offenlegen. Als Google den Page Rank bei seiner Suchmaschine offengelegt hat, also den grundlegenden Algorithmus, wie Webseiten in der Suche sortiert werden, haben das viele ausgenutzt und angefangen, zu manipulieren. Google hat hier bereits eine sehr große Transparenz. Die darf nicht größer sein, um nicht noch mehr Manipulation zu erlauben.

Bei Facebook gibt es noch ein anderes Problem mit dem Algorithmus: Wütende Postings mit vielen Reaktionen und Likes werden häufiger angezeigt als solche, die sachlich bleiben.

Zweig: Ich wünsche mir einen Beipackzettel für Algorithmen, in dem offen gelegt wird, wie diese optimiert werden und welchen Anteil die Relevanz und die Zeit, die man auf der Seite verbringt, dabei haben. Man darf hier nicht vergessen, dass die Algorithmen für das gesamte Geschehen auf dem Netzwerk verantwortlich sind. Also auch für Baby-Fotos. Die meisten Nachrichten sind harmlos und bei denen ist es sinnvoll, diese nach gewissen Kriterien nach vorne zu reihen. Aber es gibt soziale Kontexte in denen das keine gute Idee ist. Da muss sich Facebook noch überlegen, wie es damit zukünftig umgeht.

Glauben Sie wird es das von alleine tun?

Zweig: Auch Google musste lernen, dass Feedback dazu führt, dass Skandale höher gekocht werden als sie es wert sind. Deshalb zeigt Google jetzt etwa manche Vervollständigungen bei der Personen-Suche nicht mehr an. Im US-Wahlkampf wurde weder bei Clinton noch bei Trump der Name mit negativen Ereignissen in den Suchergebnissen autovervollständigt. So etwas wird es auch bei Facebook geben, die werden schon noch reagieren.

Haben sozialen Netzwerke Ihrer Meinung nach einen direkten Einfluss auf die Demokratie?

Jaume-Palasi: Die Algorithmen haben bei den US-Wahlen vorhergesagt, dass Hillary Clinton gewinnen wird. Sie haben uns eine Wirklichkeit vorgetäuscht, die dann doch nicht vorhanden war. Weil Menschen sich nicht nur daran orientieren, was ihnen auf Facebook vorgesetzt wird. Sie können sich nicht der Meinung ihrer Oma entziehen, oder der ihrer Arbeitskollegen, oder sonstigen Medien. Die Algorithmen von Facebook sind weit davon entfernt, einen zu starken Einfluss auf uns auszuüben.

Zweig: Ich mache mir keine Sorge um jemanden, der eine Suchmaschine benutzt, um sich politisch zu bilden. Wir sind auch nicht nur einem Informationskanal ausgesetzt, sondern informieren uns via TV, Zeitungen, Internet und soziale Netzwerke. Wir als Forscherinnen konnten noch nicht herausfinden, wie groß der Effekt der Filterbubble wirklich ist. Dazu gibt es bisher nur eine Studie, die von Facebook mitfinanziert wurde. Das halte ich für gesellschaftlich bedenklich.

Sie wollen also doch Einblick in die Algorithmen bekommen?

Zweig: Ich vertraue am meisten unabhängigen Expertengremien, die bei Bedarf hineinschauen und Experimente machen können. Diese Experten müssen über einen hohen Ethikstandard verfügen. Firmengeheimnisse zu Algorithmen gehören geschützt, sonst wächst die Gefahr der Manipulationsversuche.

Alles anzeigen

Was ich meine ist, das der Glaube an Algorithmen und KI manische Züge annimmt. Es gab mal ein Experiment bei dem Studenten manipulierte Taschenrechner untergejubelt wurden. Fast alle glaubten den völlig falschen Ergebnissen des Taschenrechners obwohl da 2+2 = 5 rauskam.

Heute ist es üblich, dass Entscheider irgendeinen Algorithmus bemühen müssen um ihre Entscheidungen zu legitimieren. KI ist da nur ein weiteres Werkzeug mit dem unfähigkeit entschuldigt werden kann falls mal was falsch läuft. Man kann ja dann immer auf die Algorithmen oder die KI zeigen wenn man für falsche Entscheidungen verantwortlich gemacht wird. Auch Betroffene von Entscheidungen sind eher bereit Maschinenmacht zu akzeptieren, weil ja der Glaube vorherrscht dass diese unfehlbar wären.

Diese Praxis ist natürlich vor allem bei Unternehmen verbreitet, wo heute eigentliche Jede Entscheidung irgendwie von einem Computer gestützt sein muss, findet sich aber auch in anderen Bereichen wieder. Die Angst Verantwortung zu übernehmen ohne dass man irgenwelche Algorithmen bemüht ist riesengroß.

Dabei wäre das durchaus sinnvoll wenn man kritisch mit den Ergebnissen aus dem Rechner umgehen würde und es ein Bewusstsein dafür gäbe dass die Maschinen auch nicht unvoreingenommen oder immer objektiv sind, leider ist das eben nicht so.

Wenn Maschinen auf Grund der Datenbasis die Denksysteme einer Ideologie legitimieren, dann werden sie eben Mächtig.

Das ChatGPT der Meinung ist objektiv und unvoreingenommen zu sein, kann ja nur daran liegen, dass in der Datenbasis weit mehr Referenzen gefunden werden die das behaupten, als das Gegenteil.

Was bedeutet das dann, wenn KI nicht unvoreingenommen und objektiv ist, aber allgemein dafür gehalten wird? Haben wir da das optimale Machtwerkzeug geschaffen, weil ja alle glauben KI wäre objektiv und unvoreingenommen? Ist denn Kritik und Widerspruch an KI abnormes Verhalten?

Zitat von What Do We Do About the Biases in AI?

Summary.

Over the past few years, society has started to wrestle with just how much human biases can make their way into artificial intelligence systems—with harmful results. At a time when many companies are looking to deploy AI systems across their operations, being acutely aware of those risks and working to reduce them is an urgent priority. What can CEOs and their top management teams do to lead the way on bias and fairness? Among others, we see six essential steps: First, business leaders will need to stay up to-date on this fast-moving field of research. Second, when your business or organization is deploying AI, establish responsible processes that can mitigate bias. Consider using a portfolio of technical tools, as well as operational practices such as internal “red teams,” or third-party audits. Third, engage in fact-based conversations around potential human biases. This could take the form of running algorithms alongside human decision makers, comparing results, and using “explainability techniques” that help pinpoint what led the model to reach a decision – in order to understand why there may be differences. Fourth, consider how humans and machines can work together to mitigate bias, including with “human-in-the-loop” processes. Fifth, invest more, provide more data, and take a multi-disciplinary approach in bias research (while respecting privacy) to continue advancing this field. Finally, invest more in diversifying the AI field itself. A more diverse AI community would be better equipped to anticipate, review, and spot bias and engage communities affected.

Human biases are well-documented, from implicit association tests that demonstrate biases we may not even be aware of, to field experiments that demonstrate how much these biases can affect outcomes. Over the past few years, society has started to wrestle with just how much these human biases can make their way into artificial intelligence systems — with harmful results. At a time when many companies are looking to deploy AI systems across their operations, being acutely aware of those risks and working to reduce them is an urgent priority.

The problem is not entirely new. Back in 1988, the UK Commission for Racial Equality found a British medical school guilty of discrimination. The computer program it was using to determine which applicants would be invited for interviews was determined to be biased against women and those with non-European names. However, the program had been developed to match human admissions decisions, doing so with 90 to 95 percent accuracy. What’s more, the school had a higher proportion of non-European students admitted than most other London medical schools. Using an algorithm didn’t cure biased human decision-making. But simply returning to human decision-makers would not solve the problem either.

Thirty years later, algorithms have grown considerably more complex, but we continue to face the same challenge. AI can help identify and reduce the impact of human biases, but it can also make the problem worse by baking in and deploying biases at scale in sensitive application areas. For example, as the investigative news site ProPublica has found, a criminal justice algorithm used in Broward Country, Florida, mislabeled African-American defendants as “high risk” at nearly twice the rate it mislabeled white defendants. Other research has found that training natural language processing models on news articles can lead them to exhibit gender stereotypes.

Bias can creep into algorithms in several ways. AI systems learn to make decisions based on training data, which can include biased human decisions or reflect historical or social inequities, even if sensitive variables such as gender, race, or sexual orientation are removed. Amazon stopped using a hiring algorithm after finding it favored applicants based on words like “executed” or “captured” that were more commonly found on men’s resumes, for example. Another source of bias is flawed data sampling, in which groups are over- or underrepresented in the training data. For example, Joy Buolamwini at MIT working with Timnit Gebru found that facial analysis technologies had higher error rates for minorities and particularly minority women, potentially due to unrepresentative training data.

Bias is all of our responsibility. It hurts those discriminated against, of course, and it also hurts everyone by reducing people’s ability to participate in the economy and society. It reduces the potential of AI for business and society by encouraging mistrust and producing distorted results. Business and organizational leaders need to ensure that the AI systems they use improve on human decision-making, and they have a responsibility to encourage progress on research and standards that will reduce bias in AI.

From the growing academic research into AI bias, two imperatives for action emerge. First, we must responsibly take advantage of the several ways that AI can improve on traditional human decision-making. Machine learning systems disregard variables that do not accurately predict outcomes (in the data available to them). This is in contrast to humans, who may lie about or not even realize the factors that led them to, say, hire or disregard a particular job candidate. It can also be easier to probe algorithms for bias, potentially revealing human biases that had gone unnoticed or unproven (inscrutable though deep learning models may be, a human brain is the ultimate “black box”). Finally, using AI to improve decision-making may benefit traditionally disadvantaged groups, as researchers Jon Kleinberg, Sendhil Mullainathan, and others call the “disparate benefits from improved prediction.” ...

Alles anzeigen

Ich denke eben, dass es gute Gründe gibt das hier anzuzweifeln:

Zitat

1. Objectivity and impartiality: Unlike humans, who may be influenced by their biases or emotions, I can provide unbiased and objective information, making decisions based solely on facts.

Zitat von JonnyMadFox

Wir werden aber nicht von unseren Denksystemen davon abgehalten, sondern davon, das es Eigentumsrechte gibt und Unternehmen und ihre Lobbyarmee jeden Angriff davon unterbinden.

Ich wollte die Frage aufgreifen, warum "abolish capitalism" kein Vorschlag der KI war, wie wir unseren Planeten bewahren könnten. Da ist mein Verdacht eben, dass die epistemischen Zwänge, die verhindern dass in wissenschaftlichen Veröffentlichungen Kapitalismuskritik offen ausgesprochen wird, dafür verantwortlich sein könnte.

Man erinnere sich daran wie Personen aus dem Wissenschaftsumfeld, wie z.B. Maia Göpel, bei Kapitalismuskritik rumgedruckst haben.

Was natürlich auf ein interessantes allgemeines Problem der KI hinweist, eben dass KI auf die Datenbasis zurückgreift, die unter den Bedingungen von bestimmten Denksystemen entstanden ist. KI könnte also ideologische Tendenzen für Ausschlüsse verstärken. Ausschlüsse sind aber eben die wichtigste Methode der Unterdrückung, nicht nur von wissen.

Wenn man das ausweitet auf die Frage "Wer darf sprechen", dann kommt man dazu, dass auch Ausschlüsse unterrepräsentierter Gruppen von KI repliziert wird. Wer nix sagen darf, dessen Erkenntnisse kommen auch nicht in der Datenbasis der KI vor. usw.

Zitat von WUtan Clan

11. Abolish capitalism.

Tja, die Frage ist was weiss eine KI über die Dinge über die wir nichts wissen?

Dass, was wir in unseren Epistemen nicht denken und nicht sprechen, weil es für uns auf Grund des Macht-Wissens nicht Denkbar und nicht Sprechbar ist, ist auch nicht nicht denkbar und sprechbar für eine KI.

Was könnten wir wissen und denken wenn wir nicht von unseren gegenwärtigen Denksystemen davon abgehalten würden?

Zitat von Michel Foucault (The Lost Interview)

Es scheint mir, dass dies Zentral für die Fragestellungen mit der die

Gesellschaft in der wir leben – also die kapitalistische Gesellschaft –

konfrontiert ist. […] von dem Moment an, an dem sich Menschheit

endlich von diesem Zwangssystem befreit hat – nicht nur dem System

ökonomischer Zwänge, sondern dem System politischer, moralischer,

kultureller Zwänge, mit dem der Kapitalismus den Menschen über

Jahrhunderte unterdrückt hat – von dem Moment an dem die Befreiung

erreicht wurde, was für eine Art von Wissen wird dann Möglich sein?

Alles anzeigen

Das lesen doch die potentiellen AFD Wähler eh nicht, weil das ja "Regierungspropaganda" für Schlafschafe ist.

Das kann man ausserdem viel besser für viel Geld an Fücks und seine LibMod outsourcen. Ich nehme an deren Etat wurde nicht gestrichen. (Weil das ja Vorkämpfer des Antifaschismus sind)