Our lives in a scored society, by Frank Pasquale (Le Monde diplomatique - English edition, May 2018)
▻https://mondediplo.com/2018/05/05data
Every aspect of #Big_Data needs clear governmental regulation — its collection, its use with analysis to classify people, and its exploitation. We shouldn’t be expected to fight it alone.
#chirurgie_esthétique à outrance (comme tous les patrons des #gafas).
Mettre fin au trafic des données personnelles, par Frank Pasquale (Le Monde diplomatique, mai 2018)
►https://www.monde-diplomatique.fr/2018/05/PASQUALE/58653
Au-delà de la responsabilisation des entreprises de collecte, comme le prévoit la nouvelle réglementation européenne, les législateurs devraient aussi prohiber la divulgation de certaines informations, sauf dérogation. Par exemple, beaucoup d’États américains ont interdit aux employeurs de demander à leurs actuels ou potentiels employés le mot de passe pour accéder à leurs comptes de réseaux sociaux. Mais la concurrence peut pousser certains candidats à les communiquer eux-mêmes. Ceux qui se soucient de la protection de leur vie privée pourraient ainsi se retrouver lésés, même s’ils ne font qu’exercer leurs droits, parce qu’un employeur privilégierait les autres. Tant que l’utilisation d’informations sensibles ne sera pas interdite et sérieusement contrôlée, nul ne sera à l’abri d’un avenir sans vie privée.
La collecte des données ne représente que la première étape du processus qui conduit à ruiner la vie privée. Une fois que les entreprises les ont rassemblées, elles les analysent et en tirent corrélations et inductions. Par exemple, la sociologue Mary Ebeling a rempli quelques formulaires au début d’une grossesse qui s’est terminée en fausse couche. Alors qu’elle était encore sous le choc, des sociétés de marketing lui vantaient des produits pour bébé. Elle avait été classée comme mère dans d’innombrables bases de données numériques. Elle a tiré un livre de cette expérience, sans toutefois parvenir à comprendre tout le processus à l’origine de ces publicités qui l’ont hantée pendant des années (5). D’autres algorithmes fondent notre réputation d’emprunteur, d’étudiant, de propriétaire ou d’employé. Beaucoup de sociétés de prêt utilisent maintenant des informations de manière inédite, afin de proposer leurs services aux consommateurs et aux petites entreprises. Dans cette société de notations, les gens ignorent comment leur demande de crédit a été examinée.
Barcelona is leading the fightback against smart city surveillance
▻https://www.wired.co.uk/article/barcelona-decidim-ada-colau-francesca-bria-decode
(…) The low-hanging fruit was procurement: it now bakes these considerations into its contracts with tech companies. “We are introducing clauses into contracts, like data sovereignty and public ownership of data,” says Bria. “For example, now we have a big contract with Vodafone, and every month Vodafone has to give machine readable data to city hall. Before, that didn’t happen. They just took all the data and used it for their own benefit.”
But city hall is going further, creating technological tools that mean citizens themselves can control the data they produce in the city and choose precisely who they share it with. This is Project DECODE (DEcentralised Citizen-owned Data Ecosystems). DECODE aims to develop and test an open source, distributed and privacy-aware technology architecture for decentralised data governance and identity management. It will effectively invert the current situation where people know little about the operators of the services they are registered with, while the services know everything about them. Instead, “citizens can decide what kind of data they want to keep private, what data they want to share, with whom, on what basis, and to do what,” says Bria. “This is a new social pact — a new deal on data.”
It’s a technical challenge, and one they are still working on. The tools are being put to the test in two pilots in Barcelona. The first focuses on the internet of things. City hall is giving residents sensors to place in their neighbourhoods. These sensors are directly integrated into the city’s sensor network, Sentilo, and gather data on air quality and noise pollution to influence city-level decisions. This pilot addresses the technical challenge of collating and storing a stream of citizen-sourced data, while giving those citizens complete control over what information is shared. The idea is that citizens could go out their way to collect useful data to improve public services — a very modern form of volunteering.
The second pilot relates to Decidim. When people use it, they see a dashboard of their data, aggregated and blended from a range of sources, from sensor noise levels, to healthcare data and administrative open data. From that dashboard, they can control the use of that information for specific purposes — such as informing policy proposals. Ultimately, they envisage citizens managing their data flows through an app, with a “DECODE wallet that manages people’s decryption keys, with an interface that lets you select that you want to give your transport data to the city, because you know that they can improve public transport with it—but you don’t want to give that kind of private data to an insurance company or an advertiser,” Bria explains.
The pilots will run into 2019, before potentially scaling citywide. Bria is convinced that the city is the right level of government for this experimentation. “There is a crisis of trust. Governments need to reshape their relationships with citizens, and cities are closer to the citizens. Cities also run data-intensive, algorithmic processes: transport, public housing, healthcare, education. This is the level at which a lot of services are run, and so cities can experiment with alternatives. It’s the same reason why there was the smart city boom — cities have this capacity.”
Barcelona is not alone in this. DECODE is an EU-funded project and sits neatly alongside the incoming General Data Protection Regulation (#RGPD), which will update regulation for internet companies. Together, they’re a kind of one-two for the data-driven internet economy. Barcelona also leads a network of rebel cities, “Fearless Cities”, that is adopting its tools and practices. They hosted the first conference last year, bringing together more than 180 cities from 40 countries and five continents. They are watching as Barcelona leads the way with its experiments in open democracy and data protection. Everything Barcelona has developed is open source, and all the code is posted on Github. They want these ideas to spread.
Le genre de mesures préconisées dans cet article de Frank Pasquale dans le @mdiplo du mois ►https://www.monde-diplomatique.fr/2018/05/PASQUALE/58653
Cambridge Analytica : Facebook au coeur d’un nouveau scandale
▻https://www.latribune.fr/technos-medias/cambridge-analytica-facebook-au-coeur-d-un-nouveau-scandale-772455.html
Comment Cambridge Analytica a eu accès aux données de Facebook ?
C’est le point crucial de l’affaire. Le cabinet d’analyse aurait eu accès aux données personnelles de 50 millions d’utilisateurs Facebook - soit environ un tiers de membres actifs du réseau social en Amérique du Nord et près d’un quart des électeurs américains, précise The Observer. L’entreprise serait passée par un intermédiaire : un certain Aleksandr Kogan.
Ce chercheur américain, d’origine russe, a développé une application baptisée « thisisyourdigitallife ». Lors de son téléchargement, les utilisateurs concédaient un droit d’accès à leurs données personnelles Facebook.
"Environ 270.000 personnes ont téléchargé l’application, chiffre Facebook dans un communiqué de presse publié vendredi dernier. En faisant cela, ils donnent leur consentement à Kogan pour avoir accès à des informations comme leur ville d’origine, les contenus "likés"
Ce n’est pas tout. L’application pouvait également avoir accès aux « amis » des utilisateurs l’ayant téléchargée. En 2014, Kogan aurait transmis ces informations au cabinet Cambridge Analytica, selon les enquêtes du NYT et The Observer. Si l’accès aux données était légal pour le chercheur, leur transmission à un tiers constitue une violation des règles d’utilisation de Facebook.
« En 2015, nous avons appris que le Dr. Aleksandr Kogan nous avait menti », se défend le réseau social dans son communiqué de presse. Une façon pour Facebook de se dédouaner sur l’usage détourné des données personnelles de ses utilisateurs. « Les gens ont connaissance de fournir ces informations. Aucun système n’a été infiltré, aucun mot de passe ou données sensibles n’ont été volées ou piratées », poursuit Facebook.
Pourquoi la polémique embarrasse-t-elle Facebook ?
L’affaire est gênante à plusieurs niveaux. Premièrement, elle touche le cœur même de l’activité de Facebook : la collecte de données - et l’usage potentiellement détourné qui peut en être fait.
« On est en train d’ouvrir le couvercle de la boîte noire des pratiques de Facebook en matière de données, et le tableau n’est pas joli à voir », souligne auprès de Reuters Frank Pasquale, professeur de droit à l’Université du Maryland et spécialiste de l’utilisation des données par les géants d’Internet.
Deuxièmement, Facebook se retrouve sous le coup de pressions politiques tous azimuts. Aux États-Unis, plusieurs sénateurs souhaitent entendre les justifications devant le Congrès de Mark Zuckerberg, président et co-fondateur de Facebook. "C’est une brèche énorme sur laquelle il convient d’enquêter. Il est clair que ces plates-formes ne savent pas s’autodiscipliner", a twitté la sénatrice démocrate Amy Klobuchar. Même son de cloche en Europe. Le président du Parlement européen, Antonio Tajani, dénonçait lundi une « une violation inacceptable du droit à la vie privée de nos citoyens ». La commissaire européenne à la Justice, Vera Jourova, prévoit quant à elle d’aborder le sujet avec le réseau social et des responsables du gouvernement américain lors de sa vite aux États-Unis, cette semaine. Sur Internet, une campagne #DeleteFacebook (en français, supprime Facebook) a été lancée.
De la souveraineté… fonctionnelle
▻http://www.internetactu.net/2018/01/18/de-la-souverainete-fonctionnelle
Sur le blog collectif Law and Political Economy (@LPEblog), le professeur de droit Frank Pasquale (@frankpasquale), l’auteur de Black Box Society, développe le concept de souveraineté fonctionnelle. Les économistes, rappelle-t-il, ont tendance à caractériser la portée de la réglementation comme une simple question d’expansion ou de contraction du pouvoir de (...)
In China, a Three-Digit Score Could Dictate Your Place in Society | WIRED
▻https://www.wired.com/story/age-of-social-credit
In 2013, Ant Financial executives retreated to the mountains outside Hangzhou to discuss creating a slew of new products; one of them was Zhima Credit. The executives realized that they could use the data-collecting powers of Alipay to calculate a credit score based on an individual’s activities. “It was a very natural process,” says You Xi, a Chinese business reporter who detailed this pivotal meeting in a recent book, Ant Financial. “If you have payment data, you can assess the credit of a person.” And so the tech company began the process of creating a score that would be “credit for everything in your life,” as You explains it.
Ant Financial wasn’t the only entity keen on using data to measure people’s worth. Coincidentally or not, in 2014 the Chinese government announced it was developing what it called a system of “social credit.” In 2014, the State Council, China’s governing cabinet, publicly called for the establishment of a nationwide tracking system to rate the reputations of individuals, businesses, and even government officials. The aim is for every Chinese citizen to be trailed by a file compiling data from public and private sources by 2020, and for those files to be searchable by fingerprints and other biometric characteristics. The State Council calls it a “credit system that covers the whole society.”
For the Chinese Communist Party, social credit is an attempt at a softer, more invisible authoritarianism. The goal is to nudge people toward behaviors ranging from energy conservation to obedience to the Party. Samantha Hoffman, a consultant with the International Institute for Strategic Studies in London who is researching social credit, says that the government wants to preempt instability that might threaten the Party. “That’s why social credit ideally requires both coercive aspects and nicer aspects, like providing social services and solving real problems. It’s all under the same Orwellian umbrella.”
The State Council has signaled that under the national social credit system people will be penalized for the crime of spreading online rumors, among other offenses, and that those deemed “seriously untrustworthy” can expect to receive substandard services. Ant Financial appears to be aiming for a society divided along moral lines as well. As Lucy Peng, the company’s chief executive, was quoted as saying in Ant Financial, Zhima Credit “will ensure that the bad people in society don’t have a place to go, while good people can move freely and without obstruction.”
As Liu amassed a favorable transaction and payment history on Alipay, his score naturally improved. But it could go down if he neglected to pay a traffic fine, for example. And the privileges that come with a high score might someday be revoked for behaviors that have nothing to do with consumer etiquette. In June 2015, as 9.4 million Chinese teenagers took the grueling national college entrance examination, Hu Tao, the Zhima Credit general manager, told reporters that Ant Financial hoped to obtain a list of students who cheated, so that the fraud could become a blight on their Zhima Credit records. “There should be consequences for dishonest behavior,” she avowed. The good were moving without obstruction. A threat hung over the rest.
The algorithm behind my Zhima Credit score is a corporate secret. Ant Financial officially lists five broad categories of information that feed into the score, but the company provides only the barest of details about how these ingredients are cooked together. Like any conventional credit scoring system, Zhima Credit monitors my spending history and whether I have repaid my loans. But elsewhere the algorithm veers into voodoo, or worse. A category called Connections considers the credit of my contacts in Alipay’s social network. Characteristics takes into consideration what kind of car I drive, where I work, and where I went to school. A category called Behavior, meanwhile, scrutinizes the nuances of my consumer life, zeroing in on actions that purportedly correlate with good credit. Shortly after Zhima Credit’s launch, the company’s technology director, Li Yingyun, told the Chinese magazine Caixin that spending behavior like buying diapers, say, could boost one’s score, while playing videogames for hours on end could lower it. Online speculation held that donating to charity, presumably through Alipay’s built-in donation service, was good. But I’m not sure whether the $3 I gave for feeding brown bear cubs qualifies me as a philanthropist or a cheapskate.
Then, in 2010, Suining became one of the first areas in China to pilot a social credit system. Officials there began assessing residents on a range of criteria, including education level, online behavior, and how well they followed traffic laws. Each of Suining’s 1.1 million citizens older than 14 started out with 1,000 points, and points were added or deducted based on behavior. Taking care of elderly family members earned you 50 points. Helping the poor merited 10 points. Helping the poor in a way that was reported by the media: 15. A drunk driving conviction meant the loss of 50 points, as did bribing an official. After the points were tallied up, citizens were assigned grades of A, B, C, or D. Grade A citizens would be given priority for school admissions and employment, while D citizens would be denied licenses, permits, and access to some social services.
Although Liu hadn’t signed up for Zhima Credit, the blacklist caught up with him in other ways. He became, effectively, a second-class citizen. He was banned from most forms of travel; he could only book the lowest classes of seat on the slowest trains. He could not buy certain consumer goods or stay at luxury hotels, and he was ineligible for large bank loans. Worse still, the blacklist was public. Liu had already spent a year in jail once before on charges of “fabricating and spreading rumors” after reporting on the shady dealings of a vice-mayor of Chongqing. The memory of imprisonment left him stoic about this new, more invisible punishment. At least he was still with his wife and daughter.
Still, Liu took to his blog to stir up sympathy and convince the judge to take him off the list. As of October he was still on it. “There is almost no oversight of the court executors” who maintain the blacklist, he told me. “There are many mistakes in implementation that go uncorrected.” If Liu had a Zhima Credit score, his troubles would have been compounded by other worries. The way Zhima Credit is designed, being blacklisted sends you on a rapid downward spiral. First your score drops. Then your friends hear you are on the blacklist and, fearful that their scores might be affected, quietly drop you as a contact. The algorithm notices, and your score plummets further.
Now I had two tracking systems scoring me, on opposite sides of the globe. But these were only the scores that I knew about. Most Americans have dozens of scores, many of them drawn from behavioral and demographic metrics similar to those used by Zhima Credit, and most of them held by companies that give us no chance to opt out. Others we enter into voluntarily. The US government can’t legally compel me to participate in some massive data-driven social experiment, but I give up my data to private companies every day. I trust these corporations enough to participate in their vast scoring experiments. I post my thoughts and feelings on Facebook and leave long trails of purchases on Amazon and eBay. I rate others in Airbnb and Uber and care a little too much about how others rate me. There is not yet a great American super app, and the scores compiled by data brokers are mainly used to better target ads, not to exert social control. But through a process called identity resolution, data aggregators can use the clues I leave behind to merge my data from various sources.
Do you take antidepressants? Frequently return clothes to retailers? Write your name in all caps when filling out online forms? Data brokers collect all of this information and more. As in China, you may even be penalized for who your friends are. In 2012, Facebook patented a method of credit assessment that could consider the credit scores of people in your network. The patent describes a tool that arrives at an average credit score for your friends and rejects a loan application if that average is below a certain minimum. The company has since revised its platform policies to prohibit outside lenders from using Facebook data to determine credit eligibility. The company could still decide to get into the credit business itself, though. (“We often seek patents for technology we never implement, and patents should not be taken as an indication of future plans,” a Facebook spokesperson said in response to questions about the credit patent.) “You could imagine a future where people are watching to see if their friends’ credit is dropping and then dropping their friends if that affects them,” says Frank Pasquale, a big-data expert at University of Maryland Carey School of Law. “That’s terrifying.”
#Surveillance #Evaluation #Monnaie_numérique #Chine #Social_credits
Les États-Unis veulent ajouter de l’#IA dans les #scanners corporels des #aéroports - Politique - Numerama
▻http://www.numerama.com/politique/269854-les-etats-unis-veulent-ajouter-de-lia-dans-les-scanners-corporels-d
Le #deep_learning consiste à faire ingérer préalablement des quantités gigantesques de #données à un système pour qu’il puisse travailler en autonomie. Par exemple, il est possible d’entraîner une machine à reconnaître un animal s’il a pu « voir » avant des milliers d’exemples. C’est une méthode de l’apprentissage automatique, qui est l’un des champs d’étude dans l’#intelligence_artificielle.
Pourquoi faire appel au deep learning ? Et surtout, pourquoi lancer un tel concours ?
« La sécurité intérieure a identifié des taux élevés de fausses alertes, créant des goulots d’étranglement importants aux points de contrôle de l’aéroport. Chaque fois que les capteurs et les algorithmes de l’agence nationale américaine de sécurité dans les transports prédisent une menace potentielle, le personnel doit engager un processus de vérification secondaire et manuel qui ralentit tout », est-il expliqué.
« Et à mesure que le nombre de voyageurs augmente d’année en année et que des menaces nouvelles apparaissent, les #algorithmes de l’agence de sécurité dans les transports doivent progressivement s’améliorer pour répondre à la hausse de la demande », est-il encore indiqué. Le site précise par exemple que chaque jour, ce sont 2 millions de passagers qui passent par ces portails.
Frank Pasquale on Twitter: “How machine learning is rationalizing discredited theories of caste, phrenology, & innate inferiority ▻https://t.co/ASMW5FAJYd #ML ▻https://t.co/x0hdXHdeXy”
▻https://mobile.twitter.com/FrankPasquale/status/865569709609156616
Frank Pasquale on Twitter: "Pip Thornton: #Google automatically changed a search from “is this sexist?” to “is this sexiest?” ▻https://t.co/1Obawcv2gQ"
▻https://mobile.twitter.com/FrankPasquale/status/856133294609633280
10 règles simples pour rendre les #Recherches #big_data responsables
▻http://www.internetactu.net/a-lire-ailleurs/10-regles-simples-pour-rendre-les-recherches-big-data-responsables
Les chercheurs (parmi lesquels on trouve notamment danah boyd, Kate Crawford, Frank Pasquale…) du Conseil pour les Big Data, l’Éthique et la société de la NSF et de Data&Society viennent de publier une synthèse de deux années de travaux, posant 10 règles simples pour rendre les recherches dans le domaine (...)
#A_lire_ailleurs #Enjeux #algorithmes #Confiance_et_sécurité #éthique #nossystemes #science
Peut-on améliorer les critères des crédits ?
▻http://www.internetactu.net/a-lire-ailleurs/peut-on-ameliorer-les-criteres-des-credits
Les systèmes qui attribuent un score de crédit reposent souvent et avant tout sur l’historique de leurs clients. Or, comme le soulignait Frank Pasquale dans son livre Black Box Society, ceux-ci sont surtout opaques aux utilisateurs. L’analyse de grande quantité de données pourrait permettre peut-être d’améliorer l’évaluation du risque client (...)
#A_lire_ailleurs #Enjeux #algorithme #algorithmes #Confiance_et_sécurité #machine_learning #nossystemes
Réinventer l’évaluation du risque ? - Quartz
▻http://alireailleurs.tumblr.com/post/136870823368
Dans Black Box Society, Frank Pasquale, consacre plusieurs pages à l’opacité des techniques d’évaluation des risques-clients (le fameux credit score). Il montre, pour les Etats-Unis, combien les notes de solvabilité développées par les organismes de crédit sont opaques, arbitraires et discriminatoires. Sur le web, de nombreux forums (exemple) tentent de comprendre les pratiques utilisées par les sociétés émettrices de cartes de crédit et essaient de désosser les rouages de leurs systèmes d’évaluation. Les organismes de crédit, eux, se contentent bien souvent de recommandations banales : payez vos dettes dans les temps, ne poussez vos limites de crédit aux extrêmes, etc. Les 3 organismes de crédit américains (Experian, TransUnion et Equifax) ne réalisent pas exactement les mêmes notations : “Une étude (...)
Frank Pasquale sur Twitter : "Nations with rentier governments have a “correlated interest in overhauling their military” ▻http://www.defenseindustrydaily.com/africa-the-next-defense-market-opportunity-04370 #drone as wealth defense”
▻https://twitter.com/FrankPasquale/status/678274551009181696
“…looking at the confluence of burgeoning security requirements and vast oil and [natural] gas reserves in the context of high energy prices and it becomes readily apparent that there is a collection of Africa nations demonstrating procurement characteristics reminiscent of the Middle East three decades ago.”
Des limites des Nudges - The Atlantic
▻http://alireailleurs.tumblr.com/post/134780490314
Frank Pasquale, l’auteur de Black Box Society, explique dans The Atlantic pourquoi les nudges, ces coups de pouces des #politiques_publiques, parviennent rarement à atteindre leurs buts. En fait, explique Pasquale, on commence à se rendre compte que les programmes de ce types ne sont pas toujours efficaces. Ainsi, par exemple, développer l’étiquetage des calories des aliments pour sensibiliser aux questions de santé, ne suffit pas à réduire la malbouffe, expliquait récemment une étude du magazine Health Affairs. L’incitation ne suffit pas à changer l’environnement global. Le nutritionniste Kelly Brownell a ainsi montré que les dépenses gouvernementales américaines pour promouvoir une alimentation plus saine sont une goutte d’eau par rapport au budget marketing de ceux qui promeuvent la malbouffe. (...)
Algorithms can be a digital star chamber– Frank Pasquale – Aeon
▻http://aeon.co/magazine/technology/judge-jury-and-executioner-the-unaccountable-algorithm
Online retailers live in fear of a ‘#Google Death Penalty’ – a sudden, mysterious drop in search-engine rankings if they do something judged fraudulent by Google’s #spam detection algorithms. Job applicants at Walmart in the US and other large companies take mysterious ‘personality tests’, which process their responses in undisclosed ways. And white-collar workers face CV-sorting software that may understate, or entirely ignore, their qualifications. One algorithmic CV analyser found all 29,000 people who applied for a ‘reasonably standard engineering position’ unqualified.
The infancy of the #internet is over. As online spaces mature, #Facebook, Google, #Apple, #Amazon, and other powerful corporations are setting the rules that govern #competition among journalists, writers, coders, and e-commerce firms.
Google comme bien commun
►http://www.humanite.fr/le-futur-que-google-nous-prepare-580502
Pour Pierre Mounier, chercheur en humanités numériques et auteur d’Homo Numericus, #Google se nourrit de nos vies, de nos actions, des contenus que l’on produit pour les monétiser… En ce sens, Google nous appartient. Pour lui, il faudrait que l’on commence à considérer Google, et en particulier son moteur de recherche, comme un bien commun de l’humanité. Pierre Mounier propose que ce soit l’#Unesco qui hérite de la gouvernance de ce moteur de recherche, principale source d’accès au savoir et à l’information. « Le patrimoine mondial est l’héritage du passé, dont nous profitons aujourd’hui et que nous transmettons aux générations à venir », explique l’Unesco dans sa convention de 1972. Ce patrimoine appartient à tous, et sa définition correspond parfaitement, selon Pierre Mounier, au moteur de Google et au cyberespace qu’il indexe. L’idée séduit Yann Le Pollotec : « Google marchandise une certaine forme de communisme, monétise du bien commun, en profitant du fait que le moteur de recherche en est la principale porte d’entrée. » Il serait peut-être temps de remettre la main sur cette porte d’entrée.
Rejoint l’idée d’une nécessaire #transparence des #algorithmes défendue notamment par Frank Pasquale pour la #finance :
►http://rue89.nouvelobs.com/2015/02/15/surveiller-les-autres-tout-cachant-est-forme-plus-haute-pouvoir-257
Et @affordanceinfo pour les #médias_sociaux :
▻http://affordance.typepad.com//mon_weblog/2015/03/facebooking-the-web-and-challenging-mankind.html
Il faut "forcer" les plateformes à "ouvrir" ou à "dévoiler", sinon au grand public ou aux états, à tout le moins à des tiers partenaires (les éditeurs de presse par exemple ...) la partie du code, de leur algorithmie s’apparentant à des processus classiques d’éditorialisation. Je m’en étais déjà expliqué en détail ici ou là :
▻http://ecrans.liberation.fr/ecrans/2015/02/01/sur-le-web-la-nouvelle-police-de-la-pensee_1193479
►http://affordance.typepad.com//mon_weblog/2015/01/la-loi-et-lordre-documentaire.html
"Il est vain de réclamer la dissolution de Google ou d’un autre acteur majeur comme il est vain d’espérer un jour voir ces acteurs « ouvrir » complètement leurs algorithmes. Mais il devient essentiel d’inscrire enfin clairement, dans l’agenda politique, la question du rendu public de fonctionnements algorithmiques directement assimilables à des formes classiques d’éditorialisation."
C’est une négociation qui peut aboutir. Il faudra du temps et de la fermeté mais c’est possible. D’abord parce que Facebook a besoin de sites de presse. Ensuite parce que, sur d’autres sujets mais avec des rapports de force assez semblables, il est possible de faire plier ces géants (que l’on se souvienne par exemple de la fin des clauses d’exclusivité dans le cadre des pharaoniques contrats de numérisation de Google Books, des revirements de #Facebook et termes de protection de la vie privée, etc.).
En fait, j’avais plutôt proposé que soit classé l’index de Google et non l’algorithme qui, lui, appartient bien à Google : ▻http://www.dailymotion.com/video/xbwg3r_pierre-mounier-unesco-to-supervise_tech
merci pour la précision @piotrr, et salut ! (j’ai récemment découvert que votre blog était devenu une émission de radio ;)
#Book: The Black Box Society
The Secret Algorithms That Control Money and Information
–- Frank Pasquale
▻http://www.hup.harvard.edu/catalog.php?isbn=9780674368279
Frank Pasquale exposes how powerful interests abuse secrecy for profit and explains ways to rein them in. Demanding transparency is only the first step. An intelligible society would assure that key decisions of its most important firms are fair, nondiscriminatory, and open to criticism. Silicon Valley and Wall Street need to accept as much accountability as they impose on others.
Articles:
– Seenthis:
@hubertguillaud
– Slate:
▻http://www.slate.com/articles/technology/bitwise/2015/01/black_box_society_by_frank_pasquale_a_chilling_vision_of_how_big_data_has.htm
As a lawyer, Pasquale looks at the problem from the outside in, considering the civil structure in which data-collection algorithms are embedded and how we could potentially regulate abusive and harmful uses of the data while still enabling beneficial “big data” studies.
– Times Higher Education:
▻https://www.timeshighereducation.co.uk/books/the-black-box-society-the-secret-algorithms-that-control-money-and-information-by-frank-pasquale/2018918.article
This book’s subtitle could easily have been taken further: it is not just money and information that is at stake. The algorithmic control that law scholar Frank Pasquale eloquently and intelligently details and analyses goes beyond money and information and into almost every aspect of our lives. For this reason, although it might appear merely to be a book about technology and finance, The Black Box Society, ultimately, is a radical and political work that deserves wide attention.
– New Republic:
▻http://www.newrepublic.com/article/120987/pasquales-black-box-challenges-digital-sphere-run-algorithms
The Black Box Society is a tour of how computational intelligence has come to dominate three important parts of American life: reputation, search, and finance. Pasquale is invoking a couple different concepts with the title. Like a black box on an airplane, these algorithms take information from the noise around them; like a black box in computer science, they are hidden systems, only observable from the outside in terms of their inputs and outputs. But more like black holes, the algorithms are visible in their effects on their surroundings. Our economy—and the many vital life processes it manages—twists and turns based on the say-so of inscrutable mathematical processes.
– A very good interview in which Frank Pasquale talks about how his book came to be (it took 10 years to write it):
▻http://balkin.blogspot.be/2014/09/interview-on-black-box-society_19.html
As Google grew in the early 2000s, the primary policy question seemed to be: “how do we get law out of the way of this company so it can keep organizing the internet?”
▻https://www.law.umaryland.edu/faculty/profiles/faculty.html?facultynum=984
Et bien sûr voir aussi "La vie algorithmique : Critique de la raison numérique" d’Eric Sadin
Eric Sadin : « Il est impératif de contenir la puissance du technopouvoir »
▻http://www.liberation.fr/economie/2015/03/22/il-est-imperatif-de-contenir-la-puissance-du-technopouvoir_1226071
Une charge contre le « technopouvoir » emmené par les Google, Apple, Facebook et autres Amazon, qui capte tous nos faits et gestes via nos smartphones et objets connectés. Une marchandisation de nos existences au nom d’un « Big Data » orwellien, infaillible et tout puissant ?
Entre algorithmes et marchandisation : l’homme moderne face à la numérisation des sociétés
►http://www.slate.fr/story/101159/entre-algorithmes-marchandisation-lhomme-moderne-face-numerisation-des-societe
Éric Sadin se refuse à jouer la carte des technophobes alarmistes ou des technophiles adeptes de prophéties mélioratives.
Il parvient à poser les questions justes, celles qui permettent d’établir une véritable réflexion sur les enjeux présents et à venir des technologies issues du mouvement de numérisation à l’œuvre depuis une trentaine d’années.
Des enjeux qui nécessitent, selon ses écrits, une responsabilité politique ainsi que l’édification d’une « éthique de la technè contemporaine », afin de permettre aux hommes d’avoir un rapport intelligent à la technique, un rapport à travers lequel leur humanité demeure : « En cela, soumettre la vie algorithmique contemporaine à une critique en acte de la raison numérique qui l’ordonne relève d’un combat politique, éthique et civilisationnel majeur de notre temps ».
Le big data menace-t-il nos libertés ?
Sur France Culture
▻http://www.franceculture.fr/oeuvre-la-vie-algorythmique-critique-de-la-raison-numerique-de-eric-sa
et sur TV5 : (où il ne dit rien de vraiment nouveau...)
▻https://www.youtube.com/watch?v=p9HSONAJpis
#Eric_Sadin
#GAFA
#marchandisation
#technopouvoir
#IoT
#gouvernementalité_algorithmique
De l’#ennui comme arme de diversion massive, par Claire Richard
▻http://rue89.nouvelobs.com/rue89-culture/2015/02/26/lennui-comme-arme-diversion-massive-257927
Cette idée m’a été suggérée par Frank Pasquale, le prof de droit avec qui j’avais discuté du pouvoir et du #secret des #algorithmes. ►http://rue89.nouvelobs.com/2015/02/15/surveiller-les-autres-tout-cachant-est-forme-plus-haute-pouvoir-257
Au détour de la conversation, il avait fait remarquer que le secret sur les activités de la finance ou des géants du Web était maintenu aussi par des tactiques d’ « obfuscation » langagière. Venu de la programmation, l’obfuscation désigne un procédé qui vise à rendre le code impénétrable par le langage :
« D’une part, vous avez le vrai secret, qui consiste à protéger par une série de verrous et de cryptographie des informations. Mais l’autre stratégie est l’obfuscation, qui consiste à masquer les choses sous un langage extrêmement compliqué.
Et si vous combinez ces verrous avec le jargon, la boîte noire devient de plus en plus difficile à percer. Les gens de la finance, par exemple, ont ce jargon extrêmement complexe pour asséner leur supériorité et intimider les outsiders. »
#neutralité #langage #ennui #indifférence (mais aussi #chiffres #technocratie et #spectacle (d’où la #communication_guérilla))
Je vois un rapport avec ça mais je ne suis pas en mesure de le formuler, là, tout de suite : « L’art du vide » ▻http://seenthis.net/messages/346330
Surveiller tout en se cachant est la forme la plus haute du pouvoir - Rue89
▻http://alireailleurs.tumblr.com/post/111159047676
Claire Richard pour Rue89 est allé rencontré Frank Pasquale, l’universitaire auteur de The Black box society, la société de la boîte noire, qui rappelle que “la capacité de surveiller les moindres faits et gestes des autres, tout en cachant les siens, est la forme la plus haute du pouvoir.” Il souligne combien les Facebook et Google ont du succès non pas tant du fait de leurs compétences, que de leur pouvoir, “qui leur permet de surveiller tout le monde en se soustrayant elles-mêmes aux regards”.Pour Pasquale, il y a une collusion des élites de la surveillance, entre l’élite de la Silicon Valley, l’élite financière de New York et l’élite du renseignement militaire de Washington. “Toutes les entreprises de la Silicon Valley sont en permanence à la limite de la légalité, en matière de fiscalité, de droit (...)
Frank Pasquale sur Twitter :
▻https://twitter.com/FrankPasquale/status/531101642641649664
Future politics: Top 1% has extracted all it can from bottom 69%; now focused on middle 30% via conradhackett #DL14
