El algoritmo y su supuesta objetividad aséptica

el

El algoritmo y su supuesta objetividad aséptica

*** (English version below) ***

Para comprender el concepto de “inteligencia artificial” comenzaremos por analizar qué es un algoritmo, verdadero eje central alrededor del cual pivotan la “plataformización de la economía de vigilancia”, la “robotización” y la “automatización”.

A nivel de su mínima expresión, podemos definir a un algoritmo como una secuencia específica de operaciones lógicas que un software traduce en instrucciones las cuales responden a escenarios predeterminados y desencadenan decisiones automatizadas. 

Dichas decisiones automatizadas se basan en la captura de datos y en la aplicación de los parámetros decisionales predefinidos.

Pero, en el contexto de la “plataformización de la economía de vigilancia”, un algoritmo es mucho más que una fórmula matemática, en realidad es un diseño de programación basado en un cúmulo masivo de datos al cual se le aplica un juego de reglas de funcionamiento basadas en predicciones y probabilidades estadísticas con el objetivo de influir sobre el comportamiento de las personas que consumen el servicio o producto que se ofrece. 

El algoritmo no es algo ajeno a la gestión de las Administraciones Tributarias. A medida que avanza la irrupción de las tecnologías en los procesos organizacionales, el algoritmo ya no se limita a calcular una simulación de las cuotas y el interés de un plan de facilidades de pago de la Administración Tributaria o a definir el riesgo del comportamiento fiscal de un contribuyente. 

La introducción de algoritmos en los procesos organizacionales tiene el potencial de influir sobre la contratación de postulantes a un empleo o la asignación de tareas en una plataforma digital y, en un futuro cercano, la posible resolución de un juez administrativo en un litigio contencioso entre un contribuyente y el Fisco.

El algoritmo es un organismo glotón con un apetito voraz y, como tal, su poder crece en la medida en que se alimenta de mayor cantidad de datos (“big data”). 

Esa acumulación masiva de datos se facilita en la medida que éstos se alojan en la “nube” (interna, mixta o externa), se abarata el alojamiento físico y el valor de almacenamiento, aumenta la potencia de los procesadores (“Ley de Moore”) y se multiplica la interconexión de objetos a través de “internet de las cosas” (“Internet of Things”, IoT) y la consecuente recolección de datos a través de sensores.

Esa masividad le permite al proceso algorítmico establecer sus propias reglas de procedimiento y elegir las más adecuadas, a partir de predicciones y probabilidades estadísticas, para modificar el comportamiento de los usuarios finales que lo emplean y, en consecuencia, establecer categorías digitales y construir perfiles de comportamiento social. Perfiles de comportamiento social que exceden al mero fin comercial y que inciden sobre las elecciones personales y sobre los procesos político - electorales.

La plataforma no es solamente un mediador tecnológico de información sino que también produce información e influye en las respuestas y conductas.

Las “bases y condiciones” o “términos de suscripción” de cada aplicación del ecosistema de vigilancia son contratos de adhesión opacos, que nos imponen un fárrago de obligaciones y algún que otro derecho, así como premios o castigos como usuarios a través de los cuales nos disciplinan y, progresivamente, nos “domestican” y modifican nuestros comportamientos.

Así, bajo el amparo de una supuesta protección de la propiedad intelectual, el algoritmo funciona como una “caja negra” (de la cual se desconoce su lógica interna) que transforma nuestra subjetividad como persona en un código virtual al que llamaremos “persona digital” (una especie de “clon” virtual de cada uno de nosotros). 

El modelo matemático del algoritmo no es aséptico y sería ingenuo insistir solamente en su supuesta racionalidad y neutralidad.

A nivel básico el algoritmo está influenciado por los prejuicios, subjetividades y errores de quienes lo diseñan. 

La programación de un algoritmo es un proceso que transita etapas sucesivas. Cada definición que se inserta en el algoritmo prioriza, clasifica, asocia, filtra y condiciona el flujo de información con base a reglas opacas y sesgos propios de sus definidores. 

En cada definición se recortan universos, se condicionan las siguientes decisiones y se limitan los resultados. 

Algunas de esas definiciones condicionantes son la creación de “perfiles”, la predicción de conductas, las correlaciones probabilísticas, la valoración de la pertinencia y el descarte de lo irrelevante. 

Pero adicionalmente al sesgo del definidor, en un segundo grado, a nivel de su concepción, el algoritmo nace de un paradigma de control, vigilancia y disciplinamiento social donde pueden incidir ideologías, ideas de persuasión, adoctrinamiento, manipulación de la apropiación de datos y su potencial aprovechamiento en la faz militar, de seguridad interior, de inteligencia y de vigilancia social, superando el objetivo económico de obtener una ganancia, para apuntar a “proteger” un estado de cosas. 

El otro aspecto relevante del algoritmo es que su capacidad de influir en los comportamientos se basa en la apropiación de los datos de nuestras experiencias personales y vitales como materia prima que alimenta todo el proceso algorítmico.

Además el algoritmo se destaca por otra característica, su potencialidad de ensamblarse con algoritmos previos para potenciar sus resultados y, a su vez, de servir de trampolín para la mejora de algoritmos futuros donde su fortaleza no está en sí mismo, sino en el desarrollo sinérgico de una sistema no lineal donde la suma de las partes por separado es mucho menos que el funcionamiento holístico del conjunto algorítmico (la “inteligencia artificial”).

Los invito a compartir sus comentarios.

Saludos, Rodrigo

Si te interesa leer más sobre el tema, te invito a visitar:

Puedes leer las notas previas en: https://trabajodecenteinclusionsocial.blogspot.com/

++++++

*** (English version) ***

The algorithm and its supposed aseptic objectivity

To understand the concept of “artificial intelligence” we will begin by analyzing what an algorithm is, the true central axis around which the “platformization of the surveillance economy”, “robotization” and “automation” pivot.

At the lowest level, we can define an algorithm as a specific sequence of logical operations that software translates into instructions which respond to predetermined scenarios and trigger automated decisions.

These automated decisions are based on data capture and the application of predefined decision parameters.

But, in the context of the "platformization of the surveillance economy", an algorithm is much more than a mathematical formula, it is actually a programming design based on a massive accumulation of data to which a set of rules of operation based on predictions and statistical probabilities in order to influence the behavior of people who consume the service or product offered.

The algorithm is not something alien to the management of the Tax Administrations. 

As the irruption of technologies in organizational processes progresses, the algorithm is no longer limited to calculating a simulation of the fees and interest of a Tax Administration payment facilities plan or to defining the risk of the fiscal behavior of a taxpayer.

The introduction of algorithms in organizational processes has the potential to influence the hiring of applicants for a job or the assignment of tasks on a digital platform and, in the near future, the possible resolution of an administrative judge in a contentious litigation between a taxpayer and the Treasury.

The algorithm is a gluttonous organism with a voracious appetite and, as such, its power grows as it feeds on more data ("big data").

This massive accumulation of data is facilitated to the extent that it is housed in the "cloud" (internal, mixed or external), the physical hosting and storage value becomes cheaper, the power of the processors increases ("Moore's Law" ) and the interconnection of objects through the “Internet of Things” (IoT) and the consequent collection of data through sensors is multiplied.

This massiveness allows the algorithmic process to establish its own rules of procedure and choose the most appropriate, based on predictions and statistical probabilities, to modify the behavior of the end users who use it and, consequently, establish digital categories and build profiles of social behavior. 

Profiles of social behavior that exceed the mere commercial purpose and that affect personal choices and the political - electoral processes.

The platform is not only an information technology mediator but also produces information and influences responses and behaviors.

The "bases and conditions" or "subscription terms" of each application of the surveillance ecosystem are opaque adhesion contracts, which impose on us a bundle of obligations and some other rights, as well as rewards or punishments as users through which they discipline us and progressively “domesticate” us and modify our behaviors.

Thus, under the protection of a supposed protection of intellectual property, the algorithm works as a “black box” (of which its internal logic is unknown) that transforms our subjectivity as a person into a virtual code that we will call “digital person” (a kind of virtual "clone" of each one of us).

The mathematical model of the algorithm is not aseptic and it would be naive to insist only on its supposed rationality and neutrality.

At a basic level, the algorithm is influenced by the prejudices, subjectivities and errors of those who design it.

Programming an algorithm is a process that goes through successive stages. Each definition that is inserted in the algorithm prioritizes, classifies, associates, filters and conditions the flow of information based on opaque rules and biases of its own definitions.

In each definition, universes are cut, the following decisions are conditioned and the results are limited.

Some of these conditioning definitions are the creation of “profiles”, the prediction of behaviors, the probabilistic correlations, the assessment of relevance and the discarding of the irrelevant.

But in addition to the bias of the definer, in a second degree, at the level of its conception, the algorithm is born from a paradigm of control, surveillance and social discipline where ideologies, ideas of persuasion, indoctrination, manipulation of the appropriation of data and its potential use in the military, internal security, intelligence and social surveillance aspects, exceeding the economic objective of making a profit, to aim to "protect" a state of affairs ("statu quo").

The other relevant aspect of the algorithm is that its ability to influence behaviors is based on the appropriation of data from our personal and vital experiences as raw material that feeds the entire algorithmic process.

In addition, the algorithm stands out for another characteristic, its potential to be assembled with previous algorithms to enhance its results and, in turn, to serve as a springboard for the improvement of future algorithms where its strength is not in itself, but in synergistic development. of a non-linear system where the sum of the separate parts is much less than the holistic operation of the algorithmic set (the "artificial intelligence").

I invite you to share your comments.

Greetings, Rodrigo

If you are interested in reading more on the subject, I invite you to visit:

You can read the previous notes at: https://trabajodecenteinclusionsocial.blogspot.com/

Comentarios

Publicar un comentario