Open Peer Review. Vol. 17 N.2

Conversando con cajas negras; sobre la aparición de los interfaces conversacionales

Sección: Karpeta

Revisor/a A:

Por favor, comenta los aspectos más relevantes (positivos y mejorables) del texto evaluado.

Quien realiza esta revisión destaca la originalidad del campo de estudio abordado en este artículo, así como del foco concreto de investigación, unas Interfaces Conversacionales (IC) de las que no había tenido oportunidad de leer publicaciones académicas en castellano, restringiéndose mis lecturas (especialmente las críticas, que son las que más valoro y necesito) a blogs especializados o a determinados diarios digitales. Quién sabe, acaso tras la experiencia del confinamiento por la COVID-19, publicaciones tan elaboradas y bien fundamentadas como esta encuentren mayor resonancia y estemos más predispuestos a atender a las implicaciones de las IC, sea para (re)descubrirlas en este contexto, sea para descartarlas por preferir otras formas conversacionales decididamente humanas o simplemente porque hayamos vivido en pantalla propia las amenazas a la privacidad que en el contexto desconfinado nos pudieran parecer más lejanas. He de reconocer, no obstante, que una de mis primeras dudas sobre el texto atañe a la propia terminología del artículo, que asume el campo semántico de la “conversación” para definir a unos sistemas de comunicación humano-máquina que me cuesta bastante contemplar así. Soy consciente de lo arriesgado de plantear este tipo de comentarios ante una autoría del artículo que demuestra haber leído y dominar una amplia, potente, diversa y (por si ni fuera suficiente) actualizada bibliografía que a mí se me escapa en bastantes casos (aunque tomo buena nota para ponerme al día e incorporarla a mis clases e investigaciones). Asumo, además, que los autores se limitan a recoger la terminología técnica al uso, algo probablemente aconsejable cuando hay que adentrarse en un campo tecnológico relativamente complejo, donde la “innovación” (aunque a veces se limite a la acuñación de nuevos términos para artefactos no tan novedosos) puede llegar a hacernos perder el rumbo. Con todo, me queda la duda de si no es mucho conceder el denominar “conversación” a estos mecanismos que por momentos se antojan contestadores automáticos computerizados (como si elimináramos al personal de telemarketing y pusiéramos a los usuarios directamente a interactuar con su guía virtual, si bien audiovisual). Igualmente no estoy seguro si mi desconocimiento de los matices que diferencian y vinculan la Inteligencia Artificial, el Aprendizaje Profundo, el Aprendizaje Automático y otros términos que aparecen en el texto podría extenderse a más lectores y merecerían, por tanto, una breve aclaración a riesgo de darlos por sabidos y perder así riqueza de matices.

Con todo, de la duda expresada arriba queda la sospecha de si la investigación académica, en su afán por no perderle la cara a estas supuestas “innovaciones” e incluso por no quedar fuera de la “conversación” hegemónica al respecto, no se está viendo llevada a adoptar una terminología que esconde tanto como muestra, que confunde e innova sobre actores y dinámicas comunicativas, económicas y políticas que no son particularmente novedosas (y donde el poder y la explotación no están ausentes, ni mucho menos) en muchos aspectos. Tal sospecha se hace ya insoslayable cuando hablamos de “plataformas”, un término cuya acuñación por parte de las industrias informáticas y posterior trasvase al ámbito de la organización empresarial (y luego a las empresas específicamente mediáticas) se vislumbra en algunas alusiones del artículo pero que merecería una mínima genealogía para poder clarificar de qué hablamos (y de qué no) cuando hablamos de “plataformas”. De este modo, podría irse más allá de afirmar que “El término plataforma ha sido promovido por varios representantes de este nuevo tipo de economía que promueve el capitalismo digital […] con el propósito de establecer un ecosistema neutral” para reconocer cómo no solo ha sido “promovido” sino que en gran medida ha nacido en el ámbito corporativo y, por tanto, da pie a ecosistemas complejos donde se entrecruzan diversas formas de poder y de explotación. Igualmente, dicha genealogía ayudaría a trascender algunas de las dificultades o limitaciones que se reconocen en la definición de “plataforma” o de “economía de plataforma”, como cuando se afirma que “no es fácil entender las plataformas digitales en su conjunto, ya que presentan las características de un mercado horizontal, mientras que por otro lado mantienen la jerarquía típica de las empresas privadas”, o cuando se reconoce que distintos autores engloban bajo el mismo paraguas elementos igualmente distintos, sean eminentemente tecnológicos, sean eminentemente económicos.

En mi caso, he encontrado claves provechosas para esta genealogía crítica en las páginas 10-14 del libro Spotify Teardown (Maria Eriksson et al., 2019), que reconocen que una de las mayores dificultades de partida para analizar Spotify es su adscripción a otros gigantes mediáticos (YouTube, Google, Amazon…) que vienen siendo concebidos como “plataformas”. A partir de aquí, plantean un recorrido por la introducción del término “plataforma” que abarca desde su empleo por Microsoft a mediados de los 90 para presentar su sistema operativo Windows (¡no precisamente un ejemplo de compatibilidad!) como una plataforma, pasando por su adopción en los primeros 2000 en el ámbito de la administración y organización empresariales (incluyendo al Nobel de Economía Jean Tirole y su interés por la competencia entre plataformas en “mercados bilaterales”) y entrando con fuerza en el ámbito académico ligados a las infraestructuras mediáticas con la difusión del concepto Web 2.0 (uno de cuyos primeros lemas era “La Web como plataforma”). A partir de aquí, el despegue de los “estudios sobre plataformas” en la investigación comunicativa encuentra otra referencia destacable en las FAQs que Ian Bogost y Nick Montfort presentaron en 2007 en el Congreso sobre Arte y Cultura Digital (y cuya versión de 2009 puede leerse aquí: http://bogost.com/downloads/bogost_montfort_dac_2009.pdf).

A partir de estas notas genealógicas, pero también de la relevancia de sentencias como la de diciembre de 2017 por la que el TJUE de Luxemburgo dictaminó que Uber-España no actuaba como una difusa “plataforma” de “servicios online” sino que operaba como una compañía de taxis convencional (sentencia que fue comentada en Bloomberg con un artículo titulado significativamente “Sentencia europea entierra el mito de la plataforma de Uber”: https://www.bloomberg.com/view/articles/2017-12-20/european-ruling-buries-uber-s-platform-myth), los autores de Spotify Teardown asumen en su trabajo el concepto de “plataforma” pero sin comulgar (página 13) con las “promesas” de “distintividad ontológica” (que parecen resonar en este artículo cuando leemos sobre las “connotaciones políticas y mediáticas que no estaban presentes en anteriores formas de organización empresarial”) ni del devenir multilateral del mercado (“multi-sided market”) gracias a la preeminencia de las externalidades de red positivas (algo que resuena en la citada alusión a “las características de un mercado horizontal” de estas plataformas).

Todo ello permite abrir el camino a cuestionamientos radicales de la naturaleza de estos conglomerados mediáticos (ligados en buena medida a la financierización capitalista, o dicho en plata, a Wall Street, y no solo a Silicon Valley) y de sus características presuntamente innovadoras o disruptivas (pues en buena medida siguen vendiendo audiencias, o perfiles de las mismas cada vez más afinados, a diversos anunciantes comerciales o de otra índole), máxime cuando tales adjetivos suelen proceder de sus propios departamentos de comunicación.

Por cerrar esta reflexión con una aplicación muy concreta, mi esperanza al incluir este comentario es que los autores del artículo puedan evitar la (acaso sutil pero creo que inequívoca) inconsistencia que detecto en estos dos fragmentos:

¿las amenazas que estas “plataformas” representan se deben a esos “recurrentes problemas” que contradicen lo que por lo por lo demás son “esfuerzos por mantener su neutralidad y el tratamiento igualitario”… o la ausencia de neutralidad e igualitarismo es algo que viene de serie en el “diseño de estas plataformas” impulsadas por el “capitalismo digital”? Sin embargo, y a pesar de sus esfuerzos por mantener su neutralidad y el tratamiento igualitario a sus usuarios en este tipo de ecosistemas tecno-sociales (Barbrook & Cameron, 1996; Turner, 2006), sus recurrentes problemas en la moderación de contenidos, su falta de regulación, sus sesgos ideológicos, la priorización de sus propios intereses comerciales dentro de estos entornos y la predisposición técnica a la viralización de contenidos controvertidos, polarizados o falsos, suponen una clara amenaza contra los derechos de diversos colectivos en peligro de exclusión social. El diseño de este tipo de plataformas que impulsa el capitalismo digital, pese a auto-posicionarse como [entornos] neutro[s] e igualitario[s], dista[n] mucho de serlo.

¿Cuales son las modificaciones, observaciones o indicaciones que mejorarían la calidad del artículo?

Antes de nada, reitero que a mi juicio estamos ante un artículo muy completo, ampliamente fundamentado, bien redactado y con una ambición crítica que va de la mano del citado dominio de una literatura muy original, amplia, sugerente y en gran medida actual (recogiendo debates de máxima vivacidad en estos días de estado de alarma, incertidumbre y mediaciones tecnológicas omnipresentes, hasta para ir a la playa...). Motivado por esta constatación, incluyo a continuación una serie de sugerencias con los que espero contribuir a que la autoría de este artículo se plantee algunas posibles mejoras del texto. Aclaro que las que son de naturaleza más formal apenas las mencionaré aquí (remitiendo al archivo que adjunto con anotaciones al texto original, así como con alguna corrección de errata que me he permitido incluir directamente para pulir el texto), si bien son las que considero más directamente aplicables antes de que el artículo aparezca publicado. En este sentido, me limito a apuntar aquí dos apuntes formales: el primero atañe a la redundancia que encuentro en las páginas 5, 7-8 y 9 cuando se alude a cómo la creciente “disponibilidad” de datos proporcionados (a menudo involuntariamente) por los usuarios ha facilitado diversos desarrollos en IA. Sugiero que se aligere el texto incluyendo solo una vez, acaso de forma más extensa, a este factor. Igualmente, considero imprescindible dejar en femenino todas las alusiones a “interfaz” e “interfaces” (https://www.rae.es/dpd/interfaz), cuidando la concordancia con las partículas adyacentes (como se hace de hecho en el título del apartado 6 al hablar de “Nuevas interfaces para nuevas desigualdades”). Más allá de estos apuntes formales, mi sugerencia más importante (más allá de las que puedan derivarse de los comentarios terminológicos incluidos en los Comentarios previos) tiene que ver con ciertas alusiones a la implantación y expansión de la IA en general (por ejemplo, en la página 7 al hablar de CALO), y de las IC en particular, como cuando en la página 5 se afirma:

Hoy en día, las IC gozan de una creciente popularidad ya que se han incorporado a numerosos ámbitos de la cotidianidad, en forma de asistentes virtuales, robots sociales, chatbots, altavoces inteligentes y otros. La orientación hacia el usuario de estos compañeros digitales nos provee de ayuda en nuestra vida cotidiana, automatizando tareas rutinarias a través de la conexión y mediación con otros servicios digitales (Phan, 2019). Dichas tecnologías se han ido generalizando en la sociedad con la promesa de facilitar y simplificar la comunicación entre humanos y máquinas. Este impulso a las IC ha sido posible por los grandes avances realizados en el campo del PLN recientemente, […] El uso de IC está generando un gran interés por parte de diferentes sectores y grandes expectativas en lo que se refiere a nuevos modos de interacción entre humanos y máquinas.

 

Mi percepción es que en fragmentos como este la autoría del artículo desliza afirmaciones que, al contrario del resto del texto, carecen llamativamente de fundamentación cuando no incurren en la adopción de un lenguaje cuasi publicitario. Así, cabría preguntarse, ¿qué datos de qué informes de qué comparativa evolutiva avalan la “creciente popularidad” de las IC o su “generalización” en la sociedad? ¿Quién es ese “nosotros” que afirma que “nos provee de ayuda en nuestra vida cotidiana” y cuáles son esos “sectores” donde están generando “grandes expectativas” sobre “nuevos modos de interacción entre humanos y máquinas”? ¿Acaso se espera que estas IC sean la punta de lanza de una batalla contra la exclusión social, la explotación económica o las diversas “brechas digitales”, máxime cuando más adelante se hablará de sus discriminadores sesgos, empezando por el hecho de que para se facilite dicha interacción puede ser necesario la significativa dificultad de manejar el inglés (la “vox populi” devenida hoy “voice”) u otra lengua de gran implantación?

No en vano, quizá este lapsus argumentativo permita también explicar por qué en el artículo apenas se dedican dos líneas a las vagas promesas sobre un aspecto tan relevante en el diseño e implementación tecnológicos como es la inclusividad (p. 10). En ningún caso achaco estas carencias a la autoría del artículo como tal, sino que simplemente me pregunto si todo ello no podría responder más bien a que se esté dando excesivo crédito a una narrativa procedente de los departamentos de comunicación de estas “plataformas”, narrativas sin la cual no se puede entender el aludido “mito de la plataforma” (cuyas declinaciones en el caso de Spotify son sagazmente desmontadas en el citado Spotify Teardown, por poner otro ejemplo). Dado mi desconocimiento sobre la materia, acaso sea muy sencillo replicar (o incluso se considere innecesario) a esta sospecha de que con las IC podemos estar ante “una solución en busca de problema”… o directamente ante un problema. De hecho, esta última afirmación no sería incoherente con lo que leemos en los últimos dos apartados de este artículo, por más que he de advertir de que en sus conclusiones el tono crítico se eleva hasta tal punto que se llega a pecar de la misma ausencia de fundamentación al afirmar (a contrapelo de multitud de investigaciones sobre el aprovechamiento crítico de Internet en la conformación de movimientos bien cercanos a la academia como el del software libre, la cultura libre o el conocimiento libre o el procomún en general, o de trascendencia política amplia como el 15M, Occupy Wall Street, #YoSoy132, #PasseLivre, #BlackLivesMatter, etc.) que estas interfaces “pueden suponer una nueva vuelta de tuerca en la uniformidad y colonialismo cultural que el desarrollo de Internet y la Web ha promovido mundialmente” (p. 13).

Sea como fuere, creo que quienes escriben este artículo aceptarán de buen grado, les ayude o no en este caso concreto, mi recomendación de leer lo que Rodney Brooks (alguien nada sospechoso de crítico acérrimo de la IA, a la que ha dedicado su carrera profesional) escribió en su blog en 2017 acerca de “los siete pecados capitales de las predicciones sobre IA” (https://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai/). Creo que se trata de una vacuna contra las exageradas (para bien y para mal, por exceso y también por defecto) promesas de la IA cuyos efectos argumentativamente inmunitarios sobre quienes la hemos leído son más que prometedores. Es más, poco después Brooks fue más allá en esa misma línea y, al contrario de tanto gurú que tira la predicción y esconde la mano, o de esos “profetas del pasado” que tanto abundan con el COVID-19 (sean antifeministas y anti 8-M o no), lanzó un reto de lo más exigente: el 1 de enero de 2018 lanzó unas predicciones sobre IA con fecha concreta (https://rodneybrooks.com/my-dated-predictions/) y desde entonces las revisa cada 1 de enero, estando ya disponibles las de 2019 (http://rodneybrooks.com/predictions-scorecard-2019-january-01/) y 2020 (https://rodneybrooks.com/predictions-scorecard-2020-january-01/).

Por más tentador que sea acabar con estas sugerencias de lectura que espero que resulte para quienes escriben el artículo tan iluminadoras y divertidas como para mí, no quiero finalizar sin sugerir una revisión de la analogía propuesta en el apartado 5 “La voz como moneda digital”. Considero que recurrir a un símil monetario para expresar cómo hasta nuestros sentidos (el habla, en este caso) pueden ser explotados en un esquema de producción capitalista o, por decirlo en términos marxianos, como fuente de valor susceptible de “valorización” por parte de las “plataformas digitales” no solo peca de imprecisión, sino que se antoja directamente inadecuado cuando durante el resto del artículo se ha afirmado que el importante despliegue tecnológico de los conglomerados mediáticos se aplica justamente a la recopilación pero sobre todo al cada vez más refinado y complejo procesamiento de dichas fuentes de riqueza (las voces) hasta convertirlas en los datos (y metadatos) susceptibles de ser empaquetados y vendidos con fines de persuasión, manipulación o control comunicativos. En este sentido, mi sugerencia final sería estudiar la posibilidad de adoptar aquí la metáfora de la minería (ya ampliamente implantada cuando hablamos de los procesos de “minería de datos” o incluso de minería de bitcoins) para dejar claro que para que las voces se vuelvan “monetizables” aún hay que esperar a un dilatado proceso de acuñación y puesta en circulación de monedas corrientes.

Recomendación: Publicable con modificaciones

 

Revisor/a B:

Por favor, comenta los aspectos más relevantes (positivos y mejorables) del texto evaluado.

Estamos ante un texto de gran relevancia, de rabiosa actualidad. Aborda uno de los principales cimientos del capitalismo digital: el diseño de los interfaces conversacionales representativos de las pol´íticas del capitalismo de plataforma. Y lo hace a partir de literatura y fuentes importante. No obstante apreciamos notables carencias como el trabajo de Zuboff (2019) y revisiones críticas del mismo como las publicadas en esta revista últimamente a cargo de C.H. Gray (2019). Además de estas carencias que consideramos importantes, y que la autoría debería considerar, también apreciamos un alusión excesiva y acrítica de los trabajos de Van Dijck (2013, 2018) lo que supone que el texto en gran medida se asemeje más a un capítulo de tesis en progreso (apartado antecedentes), que a un artículo académico terminado. Pero quizá una de las principales dificultades que encontramos es que el texto no alcanza  los objetivos prometidos. Tampoco llegar a definir del todo su propósito. No sabemos si estamos ante la presentación de algunos de los resultados de investigación del proyecto en el que se enmarca el texto o ante un tímido intento de revisión de la literatura y debates en torno a los interfaces conversacionales. 

¿Cuales son las modificaciones, observaciones o indicaciones que mejorarían la calidad del artículo?

-Definir si el texto es un artículo de presentación de resultados o una revisión temática (creo que esta última sería más acertada) y presentar una elaboración del mismo acorde -Definir conceptos básicos (por ejemplo interfaz conversacional) en lugar de darlo por sabido -Emplearse algo más en la corrección y pulido de estilo (hacer frases más cortas, menos literales del inglés, sin tanto gerundio, voz pasiva y deícticos, sobre todo a principios de frase/párrafo -Esto, eso - ) -Hacer más visibles los debates, las diferencias, las tensiones de la literatura presentada y hacer ver a través de las mismas las tendencias del capitalismo digital, sus nuevos modelos de negocio, de gestión, de regulación (lo cual está presente en el texto al principio pero luego queda diluido) -Abreviar las primeras 5 secciones, evitar redundancias (por ejemplo sobre los lazarillos digitales que se reiterada en numerosas ocasiones) y desarrollar sobre todo la sección 6 y las conclusiones -Actualizar literatura crítica (Zuboff, 2019, Morozov, etc...) y entrar directamente en el objetivo planteado en el abstract, que realmente se deja al margen como objetivo prometido pero incumplido: "En el artículo se argumenta que la introducción de este tipo de interfaces conversacionales facilita la introducción de nuevas desigualdades y amenazas en el espacio online para las comunidades más minoritarias y menos empoderadas por las tecnologías digitales".

Recomendación: Reenviar para revisión

 

El texto fue modificado atendiendo a las sugerencias de los/as revisores/as.