Artículos Centrales

Los sistemas de evaluación como conformadores de agendas científicas

Evaluation systems as shapers of scientific agendas

Sistemas de avaliação como formadores de agendas científicas

Invernizzi, Noela

Noela Invernizzi

noela@ufpr.br

Facultad de Educación, Universidad Federal de Paraná Brasil

Ciencia, Tecnología y Política

Universidad Nacional de La Plata, Argentina

ISSN: 2618-2483

Periodicidad: Semestral

vol. 5, núm. 9, e080, 2022

revista.ctyp@presi.unlp.edu.ar

Recepción: 01 Septiembre 2022

Aprobación: 10 Octubre 2022

URL: http://portal.amelica.org/ameli/journal/214/21435642143564001/

DOI: https://doi.org/10.24215/26183188e080

License Creative Commons
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional.

Modelo de publicación sin fines de lucro para conservar la naturaleza académica y abierta de la comunicación científica

ePub generado a partir de XML JATS4R

Resumen: El texto aborda un conjunto de argumentos que evidencian los mecanismos por los cuales los procedimientos de evaluación científica actualmente dominantes inciden en las agendas científicas, forzándolas hacia temáticas internacionalizadas. En el contexto latinoamericano, ello refuerza la tendencia persistente a producir una ciencia poco aplicable. En el marco de incipientes señales de cambio en los sistemas de evaluación, se proponen algunas alternativas para producir modificaciones en los procesos de evaluación en un sentido que redunde en agendas científicas más pertinentes. Son ellas: la inclusión de actores diversos en el sistema científico, el cambio del concepto dominante de excelencia científica, y estrategias de internacionalización multicentradas.

Palabras clave: evaluación científica, calidad científica, agendas científicas, problemas locales, publicaciones.

Abstract: This text addresses a set of arguments that show the mechanisms by which the currently dominant scientific evaluation system affects scientific agendas, inclining them towards internationalized themes. In the Latin American context, this process reinforces the persistent trend to produce science that is scarcely used. In the context of incipient signs of change in evaluation systems, some alternatives to modify the evaluation in directions that result in more relevant scientific agendas are proposed. Such dimensions are the inclusion of diverse actors in the scientific system, the change of the dominant concept of scientific excellence, and multi-centered internationalization strategies.

Keywords: scientific evaluation, scientific quality, research agendas, local problems, publications.

Resumo: O texto trata de um conjunto de argumentos que mostram os mecanismos pelos quais os procedimentos de avaliação científica atualmente dominantes afetam as agendas científicas, forçando-as para temas internacionalizados. No contexto latino-americano, isso reforça a tendência persistente de produzir ciência pouco aplicável. No quadro de sinais incipientes de mudança nos sistemas de avaliação, algumas alternativas são propostas para produzir modificações nos processos de avaliação de forma que resultem em agendas científicas mais pertinentes. São eles: a inclusão de diversos atores no sistema científico, a mudança no conceito dominante de excelência científica e a adoção de estratégias de internacionalização multicêntricas.

Palavras-chave: avaliação científica, qualidade científica, agendas científicas, problemas locais, publicações.

Introducción

La tradicional evaluación científica por pares ha sido complementada, o substituida, a partir de los años 1990, por el uso de indicadores bibliométricos cuantitativos. Cada vez más, las carreras científicas, la otorgación de fondos de investigación y el desempeño de programas e instituciones son evaluados a través de la productividad en publicaciones científicas, citaciones e índices de impacto. Usualmente se señalan tres factores que confluyen para este cambio: la ampliación del contingente de científicos, la creación de sofisticadas bases de datos bibliométricos y la imposición de una cultura de evaluación externa promovida por la “nueva gestión pública” en universidades e institutos de investigación (Alvesson y Spicer, 2016; De Bellis, 2014).

Estas formas de evaluación alteraron la dinámica de la producción de conocimiento y sus resultados. Anclados en un concepto de calidad ambiguamente definido como aquello que se publica en las revistas científicas “de excelencia”, en general publicadas en los centros científicos desarrollados, los sistemas evaluativos contribuyeron a una creciente homogenización global de las prácticas de producción de conocimiento. En el variado espacio de las periferias científicas, redundaron en una mayor aproximación de las agendas de investigación locales a la ciencia mainstream realizada en aquellos centros, generando desfases entre la ciencia producida y el conocimiento necesario para enfrentar problemas locales.

En este texto se revisa un conjunto de argumentos que, en el ámbito de crecientes críticas a estas formas de evaluación, evidencian los mecanismos por los cuales los procedimientos de evaluación inciden en las agendas científicas, forzándolas hacia temáticas internacionalizadas. 1 Se argumenta que, en el contexto latinoamericano, ello contribuye a reforzar la tendencia persistente –que responde a condiciones estructurales más amplias– a producir una ciencia poco aplicable, como ya han señalado Arocena y Sutz (2010) y Kreimer y Thomas (2004).

En la primera parte se exponen cinco mecanismos de los sistemas de evaluación que convergen en estimular agendas de investigación alineadas con los problemas y enfoques desarrollados en los centros científicos más avanzados. En la segunda parte, en el contexto de incipientes señales de cambio en los sistemas de evaluación, se proponen algunas dimensiones relevantes en el contexto regional, para alterar la evaluación en un sentido que redunde en agendas científicas más pertinentes.

La evaluación científica vigente como inductora de agendas de baja relevancia local

Los sistemas de evaluación vigentes son objeto de creciente contestación, traducidas, inclusive, en un conjunto de manifiestos (Invernizzi y Davyt, 2019). Aunque el objeto de la crítica es bastante más amplio, se podrá el foco en cinco dimensiones de los sistemas de evaluación que, reforzándose mutuamente, tienen fuertes efectos inductores de las agendas de investigación. Son ellos: la centralidad del artículo publicado en revistas de alto impacto, el concepto de calidad prevaleciente, el bajo estímulo a la interdisciplinaridad y la creatividad, la primacía del inglés y el universo cerrado de evaluación.

La centralidad del artículo en revistas internacionales de alto impacto

Uno de los aspectos más abordados en la literatura sobre evaluación científica es la hipervaloración del artículo como principal producto de la investigación y su publicación en revistas internacionales de alto impacto, generalmente editadas en los centros científicos desarrollados. De ello resulta un emparejamiento implícito del concepto de calidad científica con la ciencia mainstream producida en aquellos centros y dominante en estas revistas (Davyt y Velho, 2000).

Este constituye un mecanismo central de “extranjerización” de las agendas de investigación, una vez que publicar en estas revistas implica investigar en temáticas que resulten de interés para audiencias internacionales, desde enfoques y conceptos desarrollados por la ciencia dominante, en detrimento de temas y abordajes locales (Bianco, Gras, y Sutz, 2016; Thomas, Becerra, y Trentini, 2019).

Esta tendencia es reforzada por políticas de internacionalización de las trayectorias de los científicos, y de la investigación y sus productos, que ocurren en un flujo dirigido hacia los centros científicos desarrollados. Como resultado, Feld y Kreimer (2019), entre otros, han llamado la atención sobre una integración subordinada de investigadores de regiones menos desarrolladas a las agendas y enfoques teóricos centrales.

Las altas recompensas científicas vinculadas a la publicación en revistas de alto impacto han también afectado las agendas de otras formas, al devaluar y marginalizar otros productos y procesos de la actividad científica (Giménez Toledo, 2018; Vasen, 2018). Aunque no de forma homogénea en los países de la región (Beigel y Gallardo, 2021), han llevado a reducir la producción científica en libros, que en algunas áreas científicas resulta fundamental para el desarrollo conceptual más extenso, y en revistas nacionales, esenciales para mantener vínculos con actores sociales y formuladores de políticas locales. Han desvalorizado, también, actividades como el trabajo editorial y la representación en asociaciones científicas, de fundamental importancia para la investigación. Otras actividades secundarizadas son la docencia, fundamental para formar nuevos cuadros científicos, y la extensión, reduciendo el contacto de los investigadores con el medio y sus demandas de conocimiento (Alvesson y Spicer, 2016; Halffman y Radder, 2015).

Un concepto universal y abstracto de calidad

Para medirla a través de un conjunto de indicadores como productividad, citaciones e impacto, el concepto de calidad científica ha sido destituido de cualquier referencia al contexto en que se investiga y reducido a una cualidad abstracta y universal. Diversos autores (Goldreich, 2015; Vessuri, Guédon, y Cetto, 2014), así como los manifiestos de Leiden (Hicks y Wouters, 2015) y DORA (San Francisco Declaration on Research Assessment) (2014) afirman que los indicadores utilizados no abordan el contenido de las publicaciones, ni son capaces de captar su pertinencia o relevancia para el contexto en el que se realiza la investigación. La valoración se centra en el impacto en la propia literatura, permaneciendo sin evaluar el impacto de la ciencia en la sociedad. Como argumentan Thomas et al. (2019), el sistema de evaluación refuerza la desconexión entre las señales de calidad y relevancia científica que orientan a los investigadores cuando formulan sus agendas y las demandas locales de conocimiento.

Aunque esta cuestión se presente de forma más incisiva en los países en desarrollo, también ha sido notada en los países industrializados, donde se ha destacado un “gap de relevancia”, o disociación entre los problemas existentes y la producción de conocimiento (Sarewitz, 2016; Wilsdon et al., 2015).

El uso de criterios universales y abstractos de calidad lleva, además, a homogeneizar prácticas de producción de conocimiento en las más diversas disciplinas, conduciendo a pérdidas epistémicas resultantes del abandono de prácticas que les eran propias. Induce también comportamientos homogéneos de investigadores de centros con diversas misiones institucionales, resultando, con frecuencia, en una inadecuación del conocimiento producido a tales misiones, reforzando el problema de baja aplicación (Vasen y Sierra Pereiro, 2022).

La corrida atrás de los indicadores, cuyos efectos performativos los han convertido en un objetivo en sí, ha desencadenado un productivismo vacío, una proliferación de publicaciones irrelevantes y la merma de publicaciones “de fondo”, así como ha limitado las prácticas académicas de discusión de ideas, teorías y datos.

Bajo estímulo a la creatividad e interdisciplinaridad

Artículos y propuestas de investigación de matriz interdisciplinaria son más complejos de evaluar, especialmente usando indicadores cuantitativos. Además, innovaciones teóricas y metodológicas pueden ser rechazadas por evaluadores aferrados a las corrientes dominantes. Los investigadores interdisciplinarios y los innovadores corren más riesgos en el sistema de evaluación vigente, lo que favorece una investigación que prosigue dentro de líneas disciplinarias, con baja creatividad teórica y metodológica. Alvesson y Spicer (2016) han destacado que esto se traduce, inclusive, en la creciente padronización en el formato de los papers, verdaderos “documentos de disciplina” que exhiben limitada creatividad, un estilo de escritura burocrático, fuerte subespecialización y sobreexplotación de competencias limitadas.

Aunque la interdisciplinaridad sea constantemente resaltada en las políticas de investigación, los sistemas de evaluación son individualizados, estimulando más la competencia que la cooperación y generando obstáculos a la investigación interdisciplinaria. El tiempo adicional requerido para el aprendizaje y comprensión mutua en equipos interdisciplinarios puede reflejarse en una menor productividad frente a equipos disciplinarios (Bianco et al., 2016; Wilsdon et al., 2015).

Al no estimular la interdisciplinaridad ni la creatividad, los sistemas de evaluación reducen el potencial científico-tecnológico para enfrentar problemas complejos, que requieren del trabajo conjunto de varias disciplinas, reforzando perspectivas científicas reduccionistas.

La primacía del inglés

La dimensión glotopolítica agrega más elementos al problema. El inglés, una lengua nacional impuesta a partir de procesos de colonización y dominación económica y política, se volvió dominante en la comunicación científica (Hamel, 2016). Las consecuencias del dominio anglófono van mucho más allá de las desigualdades de “capital lingüístico” de los investigadores de diversos contextos nacionales. Ella se materializa en sesgos en bases de datos bibliométricos como Web of Science y Scopus (Beigel y Gallardo, 2021) tornando invisible la investigación publicada en otras lenguas.

La mayor valorización de las publicaciones en inglés en ámbitos de circulación internacional refuerza la adhesión a agendas de investigación foráneas y la priorización de enfoques y teorías de la ciencia hegemónica en detrimento de la desarrollada en otros espacios y lenguas. Como sostienen Law y Mol (2020), para tener sus publicaciones científicas en journals mainstream publicados en inglés, los investigadores de otras lenguas son forzados a usar conceptos desarrollados en esa lengua, que se vinculan a discusiones y temas desarrollados en otros contextos, no siempre relevantes para los suyos. Arnoux (2016) agrega que una ciencia que se expresa solo en una lengua frena la innovación pues obliga a aquellos que no la tienen como lengua principal a “formulaciones prestadas”, limitando sus capacidades de conceptualización.

En las ciencias humanas y sociales, que dependen de la argumentación para la exposición de teorías y resultados, y cuyos objetos de estudio están amarrados a los contextos locales o nacionales, la cuestión lingüística es especialmente relevante (Ortiz, 2004). Para Requena (2014) el conocimiento local –regional o nacional– que generan las ciencias sociales tiene extramuros un interés limitado y está, por lo tanto, condenado a demostrar un “bajo impacto” en el terreno internacional, lo que, de acuerdo con la evaluación vigente, será asociado con baja calidad científica.

Los efectos de la primacía del inglés ya se expresan claramente en Iberoamérica, con una reducción de las publicaciones en español y portugués. En 2020, el 84 % de los investigadores de la región optó por el inglés en los artículos publicados en revistas indexadas en Web of Science (Badillo, 2021). Inclusive en la base SciELO, creada para aumentar la comunicación científica en la región, se verifica la creciente hegemonía del inglés como lengua académica (Baker, 2021).

Sistema internalista

Otro aspecto de la evaluación que tiene efectos sobre las agendas científicas, y sobre la relevancia y aplicabilidad del conocimiento producido, se refiere al universo cerrado de la evaluación por pares. Este sistema internalista de evaluación, contenido en comunidades disciplinarias con sus reglas propias, tiende a producir el “efecto Mateo” de privilegiar los investigadores e instituciones reconocidos, a lo que se ha agregado el frecuente conflicto de intereses (Chubin y Hackett, 1990).

Con la difusión de la Nueva Administración Pública a las universidades y centros de investigación, la evaluación se ha extendido a otros actores, especialmente burócratas, agregando una cultura de auditorías y rankings que refuerzan el apego a los indicadores de evaluación. Mientras tanto, la apertura de la evaluación hacia actores más diversos, que podría enriquecer con nuevas demandas las agendas de investigación, como proponen varios manifiestos en los últimos años (Invernizzi y Davyt, 2019), ha sido bastante limitada, especialmente en el contexto latinoamericano. Los actores más requisitados han sido los representantes del sector productivo. Sin embargo, ello se ha hecho bajo discursos y premisas de innovación que son poco efectivas en los tejidos productivos de la región. Otros actores de la sociedad civil, con sus demandas de conocimiento, tienen una participación muy reducida.

Así, rara vez se incorpora la perspectiva de los usuarios potenciales, beneficiarios o afectados por el desarrollo científico-tecnológico en la configuración de agendas o en el establecimiento de prioridades de investigación, perdiéndose referencias con las demandas sociales. Cuando ocurre, suele ser en diálogo de grupos sociales movilizados con investigadores situados fuera del mainstream científico.

Señales de cambio y posibles alternativas

Los cinco puntos examinados revelan que el concepto de calidad científica impuesto por los sistemas de evaluación tensiona la pertinencia y relevancia local de las agendas de investigación. El poder orientador de las prácticas de investigación que adquieren estos mecanismos evaluativos puede, inclusive, volver inocuos los objetivos de las políticas de ciencia, tecnología e innovación orientados a enfrentar problemas nacionales, tal como lo ha argumentado previamente en esta revista la Cátedra Libre Ciencia, Política y Sociedad (2019).

El momento actual es propicio para discutir y cambiar la evaluación científica en una dirección condicente con las necesidades de investigación nacionales y regionales. Aunque esta lógica evaluativa aún goza de prestigio en partes de la comunidad académica, el descontento y la crítica han crecido en diversas latitudes (CLACSO-FOLEC, 2020; Dagnino y Oliveira, 2019; Giménez Toledo, 2018). Algunas instituciones y universidades han comenzado a experimentar alternativas, con un retorno a evaluaciones de cuño cualitativo (Saenen et al, 2021). China, recientemente consolidada como potencia científica según los indicadores basados en el Science Citation Index, está reformando su sistema de evaluación, dando más peso a las publicaciones nacionales (Shu, Liu, y Larivière, 2022). En Europa, la Dirección General para Investigación e Innovación de la Comisión Europea ha propuesto algunas líneas para reformar la evaluación en los países miembros, priorizando la evaluación cualitativa, por pares, de los méritos intrínsecos de la investigación, y diferenciando la evaluación de acuerdo con la pluralidad de actividades, disciplinas, misiones institucionales, condiciones de investigación y contextos nacionales (European Commission, 2021). Estas experiencias, con la debida contextualización en el ámbito de sistemas científicos bastante heterogéneos en términos de organización, infraestructura, áreas científicas e instituciones de los países latinoamericanos, pueden aportar elementos para pensar el cambio de los sistemas de evaluación en la región.

En el contexto regional, transformar los sistemas de evaluación en un sentido que estimulen y recompensen la producción de conocimiento alineado con los problemas locales, sin relegar los múltiples problemas globales que enfrentamos (epidemias, migraciones, cambio climático, entre otros), demanda abordar algunas cuestiones clave: la inclusión de actores diversos en el sistema científico, el cambio del concepto dominante de excelencia científica, y diversificar las estrategias de internacionalización.

Los estudios sociales de la ciencia y la tecnología, y en particular los abordajes feministas y postcoloniales han demostrado los efectos epistemológicos de la exclusión de las mujeres y otros grupos sociales de la producción científica, afectando la selección de temas de investigación, la formulación de problemas e hipótesis, los diseños experimentales y la interpretación de los datos.

Así, un sistema científico y tecnológico capaz de dar respuestas pertinentes a los problemas experimentados por diversos grupos sociales, requiere enriquecer la pluralidad de perspectivas de la comunidad científica, revirtiendo sesgos de género, étnicos y de clase. La democratización de la educación superior es bastante reciente e incompleta en varios países de América Latina, especialmente en lo que respecta a la diversidad étnica y las clases sociales más bajas. No obstante, la creciente presencia de mujeres en la educación superior y en las instituciones de investigación -siendo a veces mayoría-, aún persisten diferencias en las carreras científicas y ocupación de posiciones de liderazgo.

La diversificación de actores no se limita a los científicos. Es cada vez más aceptado que la participación pública en ciencia y tecnología es un aspecto crucial de las democracias modernas. Formas de participación activista han denunciado efectos de la ciencia y la tecnología como sus riesgos, dilemas éticos y desempleo, o han demandado acceso a sus frutos, acompañando el desarrollo tecnocientífico desde el siglo XX, mientras que variadas interacciones entre investigadores y actores legos han sido desarrolladas desde la tradición extensionista universitaria latinoamericana. En las últimas décadas se han experimentado formas más institucionalizadas de participación de actores legos en la toma de decisiones sobre ciencia y tecnología. Aunque el fenómeno adquirió particular relevancia en Europa, también se puso en práctica en procedimientos como las evaluaciones de impacto ambiental o los consejos de políticas públicas en América Latina (Invernizzi, 2020).

Aunque las experiencias de inclusión de beneficiarios, usuarios, y afectados en los procesos de producción de conocimiento en la región han aumentado (Fressoli, Dias, y Thomas, 2014), permanecen, en general, al margen de las prácticas científicas dominantes. Constituye, pues, un desafío, crear y mejorar metodologías de participación pública que se adecuen a las condiciones de ciudadanía locales. La revitalización de las prácticas de extensión, desvalorizadas por los sistemas de evaluación, es fundamental para integrar actores más diversos y sus problemas a las agendas de investigación.

Modificar las señales de relevancia científica dadas por los sistemas de evaluación es esencial para conformar nuevas agendas de investigación. Ello demanda cultivar un nuevo concepto de excelencia científica entre los propios científicos, como han resaltado Dagnino y Oliveira (2019). Sea por genuina convicción, por disciplinamiento, o por “hacer el juego”, al atenerse al sistema de evaluación vigente, los investigadores reproducen un concepto de calidad reducido a las publicaciones en revistas de alto impacto.

Esta adhesión genera una alienación, en diversos grados, de los temas investigados frente a los problemas locales. Revertirla implica modificar toda una infraestructura material que refuerza y hace funcionar el sistema de evaluación –trayectorias formativas, revistas, cargos, salarios, primas, viajes, redes de investigación–, articulada a una ideología de excelencia científica que funciona como “sentido común”, en el sentido gramsciano. Por lo tanto, el desafío que se coloca es el de un cambio material e ideológico en el cual las universidades –o, mejor, la política universitaria entendida como proyecto de universidad para la sociedad y el país–, así como las instituciones de fomento a la investigación y los formuladores de la política de ciencia, tecnología e innovación, tienen un papel fundamental por cumplir.

Finalmente, el cambio debe abarcar las políticas de internacionalización de la investigación y de la formación de científicos. Los flujos de internacionalización más estimulados en América Latina son aquellos hacia el norte, hacia los centros científicos más robustos, con los efectos descritos en las agendas científicas. Resultaría fructífero ampliar las redes de cooperación a través de una transnacionalización multicentrada. Flujos de intercambio en diversas direcciones no solamente enriquecerían la capacidad de respuesta a problemas comunes de los países con sistemas científicos en formación o en consolidación, como ampliaría las perspectivas con las que se trabaja en problemas globales como el cambio climático o las migraciones, enriqueciendo la ciencia global. La transnacionalización multicentrada va de la mano con el multilingüismo, fortaleciendo las diferentes lenguas como lenguas científicas y valorizando su potencial de comunicación científica con la sociedad.

Bibliografía

Alvesson, M.; Spicer, A. (2016). (Un)Conditional surrender? Why do professionals willingly comply with managerialism. Journal of Organizational Change Management, 29(1), 29–45. https://doi.org/10.1108/JOCM-11-2015-0221

Arnoux, E. N. de. (2016). Minorización linguística y diversidad: En torno al español y al portugués como lenguas científicas. En E. Rinesi, J. Smola, C. Cuello, y L. Rios (Orgs.), Hombres de una república libre. Universidad, inclusión social e integración cultural en Latinoamérica (pp. 290–306). Universidad de General Sarmiento.

Arocena, R.; Sutz, J. (2010). Weak knowledge demand in the South: Learning divides and innovation policies. Science and Public Policy, 37(8), 571–582. https://doi.org/10.3152/030234210X12767691861137

Badillo, Á. (2021). El portugués y el español en la ciencia: Apuntes para un conocimiento diverso y accesible. Real Instituto Elcano/Organización de Estados Iberoamericanos. https://media.realinstitutoelcano.org/wp-content/uploads/2022/02/badillo-portugues-y-espanol-en-la-ciencia-es.pdf

Baker, S. (8 de octubre de 2021). English Is Dominant Language of Science in Latin America. Times Higher Education. https://www.insidehighered.com/news/2021/10/08/english-dominant-language-science-latin-america

Beigel, F.; Gallardo, O. (2021). Productividad, bibliodiversidad y bilingüismo en un corpus completo de producciones científicas. Revista Iberoamericana de Ciencia, Tecnología y Sociedad —CTS, 16(46), 41–71.

Bianco, M.; Gras, N.; Sutz, J. (2016). Academic Evaluation: Universal Instrument? Tool for Development? Minerva, 54(4), 399–421. https://doi.org/10.1007/s11024-016-9306-9

Cátedra Libre Ciencia, Política y Sociedad (2019). La evaluación en ciencia y tecnología en Argentina. Estado de situación y propuestas. Ciencia, Tecnología y Política, 2(3), 024. https://doi.org/10.24215/26183188e024

Chubin, D. E.; Hackett, E. J. (1990). Peerless science: Peer review and U.S. science policy. State University of New York Press.

CLACSO-FOLEC. (2020). CLACSO-FOLEC. 2020. Para una transformación de la Evaluación de la ciencia en América Latina y el caribe Diagnóstico y propuestas para una iniciativa regional. Buenos Aires: CLACSO. Consejo Latinoamericano de Ciencias Sociales.

Dagnino, R.; Oliveira, M. (2019). Sobre os males da gestão: A experiência brasileira. Revista ADUSP, 63, 26–29.

Davyt, A.; Velho, L. (2000). A avaliação da ciência e a revisão por pares: Passado e presente. Como será o futuro? História, Ciências, Saúde-Manguinhos, 7(1), 93–116. https://doi.org/10.1590/S0104-59702000000200005

De Bellis, N. (2014). History and evolution of (biblio)metrics. Em B. Cronin & C. Sugimoto (Orgs.), Beyond bibliometrics: Harnessing multidimensional indicators of scholarly impact (pp. 23–44). MIT Press.

European Commission. Directorate General for Research and Innovation. (2021). Towards a reform of the research assessment system: Scoping report. Publications Office. https://data.europa.eu/doi/10.2777/707440

Feld, A.; Kreimer, P. (2019). ¿Cosmopolitismo o subordinación? La participación de científicos latinoamericanos en programas europeos: motivaciones y dinámicas analizadas desde el punto de vista de los líderes europeos. História, Ciências, Saúde-Manguinhos, 26(3), 779–799. https://doi.org/10.1590/s0104-59702019000300004

Fressoli, M.; Dias, R.; Thomas, H. (2014). Innovation and Inclusive Development in the South: A Critical Perspective. En E. Medina, I. da Costa Marques y C. Holmes (Orgs.), Beyond Imported Magic, (pp. 47–66). The MIT Press. https://doi.org/10.7551/mitpress/9780262027458.003.0003

Giménez Toledo, E. (2018). La evaluación de las Humanidades y de las Ciencias Sociales en revisión. Revista española de Documentación Científica, 41(3), 208. https://doi.org/10.3989/redc.2018.3.1552

Goldreich, O. (2015). Content-Oblivious Quality Measures and the Control of Academia. Department of Computer Science Weizmann Institute of Science. http://www.wisdom.weizmann.ac.il/~oded/F/measures-en.pdf

Halffman, W.; Radder, H. (2015). The Academic Manifesto: From an Occupied to a Public University. Minerva, 53(2), 165–187. https://doi.org/10.1007/s11024-015-9270-9

Hamel, R. H. (2016). Los flujos del imperio. La construcción del monopolio del inglés en el campo de las ciencias y la educación superior – Alternativas desde América Latina. http://hamel.com.mx/Archivos-Publicaciones/Hamel-2016-Los-flujos-del-imperio.pdf

Hicks, D.; Wouters, P. (2015). The Leiden Manifesto for research metrics. Nature, 520, 429–431.

Invernizzi, N. (2020). Public participation and democratization: Effects on the production and consumption of science and technology. Tapuya: Latin American Science, Technology and Society, 3(1), 227–253. https://doi.org/10.1080/25729861.2020.1835225

Invernizzi, N.; Davyt, A. (2019). Críticas recientes a la evaluación de la investigación: ¿vino nuevo en odres viejos? Redes. Revista de Estudios Sociales de la Ciencia y la Tecnología, 25(49), 233–252.

Kreimer, P.; Thomas, H. (2004). Un poco de reflexividad o ¿de dónde venimos? Estudios Sociales de la ciencia y la tecnología en América Latina. En P. Kreimer y H. Thomas (Orgs.), Producción y uso social de conocimientos. Estudios de sociología de la ciencia y la tecnología en América Latina. Universidad Nacional de Quilmes.

Law, J.; Mol, A. (2020). Words to think with: An introduction. The Sociological Review, 68(2), 263–282. https://doi.org/10.1177/0038026120905452

Ortiz, R. (2004). As ciências sociais e o inglês. Revista Brasileira de Ciências Sociais, 19(54), 5–22. https://doi.org/10.1590/S0102-69092004000100001

Requena, M. (2014). La evaluación de la investigación a debate. Revista Española de Sociología, 21, 129–136.

Saenen, B.; Hatch, A.; Curry, S.; Proudman, V.; Lakoduk, A. (2021). Case Study Report. Reimagining Academic Career Assessment: Stories of innovation and change. DORA, European University Association, SPARC Europe. https://eua.eu/resources/publications/952:reimagining-academic-career-assessment-stories-of-innovation-and-change.html

San Francisco Declaration on Research Assessment, DORA. (2014). https://sfdora.org/read/

Sarewitz, D. (2016). Saving Science. The New Atlantis, 49, p. 4–40.

Shu, F.; Liu, S.; Larivière, V. (2022). China’s Research Evaluation Reform: What are the Consequences for Global Science? Minerva, 60, 329–347. https://doi.org/10.1007/s11024-022-09468-7

Thomas, H.; Becerra, L.; Trentini, F. (2019). La evaluación académica basada en indicadores bibliométricos como sistema socio-técnico. Micro y macropolítica de la jerarquización de productos y actividades científicas y tecnológicas. Redes. Revista de Estudios Sociales de la Ciencia y la Tecnología, 25(49), 253–337.

Vasen, F. (2018). La ‘torre de marfil’ como apuesta segura: Políticas científicas y evaluación académica en México. Archivos Analíticos de Políticas Educativas, 26(96), 1–26.

Vasen, F.; Sierra Pereiro, M. (2022). “The Hardest Task”—Peer Review and the Evaluation of Technological Activities. Minerva, 60, 375–395. https://doi.org/10.1007/s11024-022-09461-0

Vessuri, H.; Guédon, J.C.; Cetto, A. M. (2014). Excellence or quality? Impact of the current competition regime on science and scientific publishing in Latin America and its implications for development. Current Sociology, 62(5), 647–665. https://doi.org/10.1177/0011392113512839

Wilsdon, J.; Allen, L.; Belfiore, E.; Campbell, P.; Curry, S.; Hill, S.; Jones, R.; Kain, R.; Kerridge, S.; Thelwall, M.; Tinkler, J.; Viney, I.; Wouters, P.; Hill, J.; Johnson, B. (2015). The Metric Tide: Report of the Independent Review of the Role of Metrics in Research Assessment and Management. Unpublished. https://doi.org/10.13140/RG.2.1.4929.1363

Notas

1 Estas ideas fueron presentadas en el Seminario internacional del FOLEC-CLACSO, durante la 9ª Conferencia Latinoamericana y Caribeña de Ciencias Sociales, Ciudad de México, junio 2022.