Metaanálisis
El metaanálisis es un conjunto de herramientas estadísticas, que son útiles para sintetizar los datos de una colección de estudios. El metaanálisis se inicia recopilando estimaciones de un cierto efecto (expresado en un índice de tamaño del efecto, como la diferencia de medias tipificada, la razón de riesgo, o la correlación) de cada estudio.[1] El metanálisis permite valorar estos efectos en contexto: si el tamaño del efecto es consistente, el efecto del tratamiento puede ser considerado como fuerte y el tamaño del efecto se estima con mayor precisión que con un solo estudio. Si el tamaño del efecto varía, esa variación puede ser descrita y, potencialmente explicada.
El término metaanálisis, como tal, fue inicialmente aplicado en las ciencias sociales y en psicología. A partir de la década de los 80, se comenzó a aplicar de forma creciente en medicina y a partir de los 90 son muy frecuentes los artículos que describen resultados de metaanálisis en publicaciones médicas.
Historia
editarEl término "metaanálisis" fue acuñado por Gene V. Glass en 1976, siendo el primer estadístico moderno en señalar que su mayor interés era "a qué hemos llamado el metanálisis de la investigación científica". Aun cuando esto le permitiera ser ampliamente reconocido como el fundador del método moderno, no fue sino hasta la década de los 90 cuando la práctica de los metanálisis comenzó a figurar, pero no siempre, como los componentes importantes de un proceso de revisión sistemática. La teoría estadística en torno al metanálisis mejoró notablemente gracias al trabajo desempeñado por Nambury S. Raju, Larry V. Hedges, Harris Cooper, Ingram Olkin, John E. Hunter, Jacob Cohen, Thomas C. Chalmers, Robert Rosenthal, y Frank L. Schmidt.
Ventajas
editarConceptualmente hablando, se utiliza un enfoque estadístico para combinar los resultados de múltiples estudios. Por tanto, sus ventajas son las siguientes:
- Los resultados del estudio se pueden generalizar a una población más amplia;
- La precisión y exactitud de las estimaciones pueden mejorarse a mayor uso de datos. Esto, a su vez, puede aumentar la potencia estadística para detectar un efecto;
- La inconsistencia de resultados entre estudios se puede valorar y analizar. Por ej: se valora la heterogeneidad debida al error de muestreo, y si en parte ese heterogeneidad se ve influida por heterogeneidad genuina entre los estudios involucrados;
- Se pueden contrastar hipótesis respecto a las estimaciones combinadas;
- Pueden incluirse moderadores que expliquen la variación entre estudios;
- Se puede prestar atención y analizar el sesgo en publicación.
Dificultades potenciales
editarEl metanálisis que arrojan varios estudios de corto alcance, no predice los resultados de un solo estudio amplio.[2] Algunos han argumentado que una debilidad del método es que los focos de sesgo no están controlados por el método: un buen metanálisis de estudios mal diseñados todavía dará lugar a malas estadísticas. Esto significaría que sólo los estudios metodológicamente sólidos deben ser incluidos en un metanálisis, una práctica llamada «síntesis de la mejor prueba». Otros analistas incluirían estudios más débiles, y añadirían una variable de predicción a nivel de estudio que refleje la calidad metodológica de los estudios para examinar el efecto de la calidad del estudio sobre el tamaño del efecto.[3] Sin embargo, otros han argumentado que el mejor enfoque es el de preservar la información sobre la variación en la muestra del estudio, echando una red tan amplia como sea posible, y que los criterios de selección metodológica introduzcan subjetividad no deseada, anulando el propósito de este enfoque.[4]
Sesgo de publicación: el problema de fondo
editarOtro escollo potencial es la confianza en lo disponible de estudios publicados, lo que puede generar resultados exagerados debido a dicho sesgo, pues los estudios que muestran resultados negativos o insignificantes tienen menos probabilidades de ser publicados. Para cualquier área de investigación determinado, no se puede saber cuántos estudios han sido ocultados o descartados.[5]
Este problema resulta en la distribución de tamaños del efecto que están sesgados, asimétricos o totalmente aislados; creando un error común de razonamiento lógico, en el que se sobreestima la importancia de los estudios publicados, mientras otros estudios ni se publican. Esto debiera ser considerado en serio al interpretar los resultados de un metanálisis.[5][6]
Esto se puede visualizar con un gráfico de embudo, el cual, es un diagrama de dispersión del tamaño de muestra y de efecto. Para un cierto nivel de efecto, cuanto menor sea el estudio, mayor es la probabilidad de encontrarlo por casualidad; al mismo tiempo, cuanto mayor sea el nivel de efecto, menor será la probabilidad de que un estudio más grande pueda resultar así de positivo. En caso de que muchos estudios negativos no fuesen publicados, los positivos restantes darían lugar a tal gráfico de embudo en el cual el tamaño de efecto es inversamente proporcional al tamaño de muestra, es decir, una parte importante del efecto que se muestra se debe a la posibilidad de que no se equilibra en el diagrama por ausencia de datos negativos no publicados. En cambio, al publicarse la mayoría de estudios, el efecto mostró no tener razón para sesgarse por el tamaño de estudio; por lo cual resulta, un gráfico de embudo simétrico. Así que, si no hay sesgo de publicación, no habría relación alguna entre el tamaño de muestra y el tamaño de efecto.[7] Una relación negativa entre el tamaño de muestra y el de efecto implicaría que los estudios que encontraron efectos significativos fueran más propensos de publicarse y/o enviarse para tal fin. Hay varios procedimientos disponibles que intentan corregir el problema de cajón al identificarse, tales como adivinar en la mecha de distribución de los efectos de estudio.
Los métodos para detectar el sesgo de publicación han sido polémicos ya que suelen tener bajo impacto para detectarlo, incluso pueden generar falsos supuestos bajo ciertas circunstancias.[8] Un método conjunto para analizar el sesgo de publicación ha sido propuesto para abatir falsos supuestos y sugerir que el 25% de los metanálisis en psicología podrían tener sesgo de publicación.[9] Sin embargo, los posibles problemas de bajo impacto siguen siendo controvertidos y las estimaciones de sesgo podrían ser inferiores a la cantidad real.
Sesgo impulsado por agenda
editarEl error más grave en el metanálisis (H. Sabhan) ocurre a menudo cuando la(s) persona(s) realizando un metanálisis tiene(n) una agenda económica, social, o política, como la aprobación o la reprobación legislativa. La gente con estos tipos de agendas podrían ser más propensos de utilizar indebidamente los metanálisis debido a sus prejuicios.
Desarrollo
editar- Formulación del problema
- Búsqueda de literatura
- Selección de estudios (criterios de incorporación):
- Basada en criterios de calidad, ej: requisitos de asignación al azar y de ensayo clínico ciego;
- Selección de estudios concretos sobre un tema muy específico, como el tratamiento de cáncer;
- Decidir si los estudios no-publicados son incluidos para evitar el sesgo de publicación (problema de fondo).
- Decidir de qué variables dependientes o medidas de resumen se dispone. Por ejemplo:
- Diferencias (datos discretos);
- Medias (datos continuos);
- La g de Hedges es una medida popular para datos continuos que es estandarizada para eliminar diferencias de escala, pero incorpora un índice de variación entre grupos:
- en donde es la media de tratamiento, es la media de control, y la varianza conjunta.
- Selección del modelo
Para conocer las directrices de informes, consulte los artículos de Reporte Preferidos para Revisiones Sistemáticas y los Metanálisis (Preferred Reporting Items for Systematic Reviews and Meta-Analyses - PRISMA, por sus siglas en inglés).[10]
Metodología y supuestos
editarLos métodos
editarEn general, existen dos tipos de prueba que se pueden distinguir al realizar un metanálisis: los datos iniciales aportados por cada participante (DIP) y los datos de agregado (AD). Considerando que los datos iniciales representan la información en bruto procedente de los centros de estudio, los agregados de hecho son más comunes y disponibles (por ej: desde la literatura) y típicamente representan estimaciones globales, tales como razones de ventaja (odds ratio) o riesgos relativos. Esta distinción ha incrementado las necesidades de diferentes métodos cuando la prueba es deseada, conduciendo al desarrollo de métodos de una o dos etapas; en los de una etapa, los datos iniciales son simultáneamente modelados mientras representan la agrupación de participantes dentro de los estudios; por el contrario, los métodos de dos etapas, sintetizan los datos agregados de cada estudio y consideran aquí las cargas de estudio. Reduciendo los datos iniciales a datos agregados, los métodos de dos etapas pueden incluso aplicarse cuando se cuenta con los datos iniciales; lo que presenta una alternativa de acción al realizar el metanálisis.
Aunque se cree que los métodos de una o dos etapas arrojan resultados parecidos, estudios recientes han demostrado que dichos métodos pueden a veces llevar a diferentes conclusiones.[11]
Supuestos
editarDe efecto fijo
editarEl modelo de efectos fijos ofrece una ponderación de estimaciones seriadas: se suele emplear el inverso de la varianza de cada estimación como peso del estudio, de tal manera que los estudios con muestras mayores tienden a contribuir más a la media ponderada que los estudios con muestras menores. En consecuencia, cuando los estudios en un metanálisis son dominados por uno grande, los hallazgos en estudios más pequeños resultan prácticamente ignorados. Lo más importante, este modelo supone que todos los estudios incluidos son idénticos: estudian a la misma población, usan la misma variable y definiciones de resultados, etc. Este supuesto es típicamente irreal porque toda investigación es propensa a ser influida por varias fuentes de heterogeneidad; así, los efectos del tratamiento pueden diferir según la configuración regional, los niveles de dosificación, las condiciones de estudio.
De efectos aleatorios
editarUn modelo común para sintetizar estudios heterogéneos, es el modelo de efectos aleatorios; este es tan solo la media ponderada de los tamaños del efecto de un grupo de estudios. El peso que se aplica en este proceso de ponderación con un metanálisis de efectos aleatorios se realiza en dos pasos:[12]
- Paso 1: Obtención de las varianzas de muestreo.
- Paso 2: Cálculo de la varianza específica, debida a la heterogeneidad de los estudios. El peso de cada estudio se obtiene sumando la varianza de muestreo de ese estudio (distinta para cada estudio) y la varianza específica (única para todos los estudios). El peso se obtiene como el inverso de la suma de esas varianzas. Así, para el estudio i el peso sería: peso(i) = 1/ [var(i) + var(específica)]. La varianza específica del modelo de efectos aleatorios se obtiene valorando la magnitud en que la variabilidad observada excede a la variabilidad esperada por mero muestreo (por ejemplo, por el método de los momentos).
En un caso extremo en el que la varianza específica sea muy grande puede ocurrir que el peso esté muy condicionado por esa varianza, resultando despreciable en términos prácticos los tamaños muestrales de los estudios. De esta forma, la media ponderada será muy cercana a la media aritmética simple, no ponderada. En el extremo opuesto está el caso en que la estimación de la varianza específica proporciona el valor cero. En este caso los pesos serán iguales a los inversos de las varianzas de muestreo y el resultado será idéntico al que se obtiene bajo el modelo de efecto fijo. El modelo de efecto fijo es un caso particular del modelo de efectos aleatorios, que se produce cuando la varianza específica es igual a cero.
La medida de esta inversión depende únicamente de dos factores: la heterogeneidad de precisión, y la heterogeneidad del tamaño del efecto:[13]
Por otra parte el método más utilizado para estimar la varianza específica y tener en cuenta la heterogeneidad es el método de DerSimonian-Laird (DL), o método de los momentos, propuesto en 1986. Posteriormente se han propuesto otros métodos, como el de máxima verosimilitud restringida (REML), un método iterativo y computacionalmente más intensivo. Sin embargo, una comparación entre estos dos modelos (y otros) demostró que hay pocas diferencias prácticas y DL es bastante adecuado en la mayoría de los escenarios.[14]
Metarregresión
editarLa metarregresión es una herramienta utilizada en el metanálisis para examinar el impacto de las variables moderadoras en el estudio del tamaño del efecto utilizando técnicas basadas en regresión. La metarregresión es más eficaz en esta tarea, de lo que son las técnicas de regresión estándar.
Aplicación en la ciencia moderna
editarEn Medicina, un metanálisis es el estudio basado en la integración estructurada y sistemática de la información obtenida en diferentes ensayos clínicos, sobre un problema de salud determinado. Consiste en identificar y revisar los estudios controlados sobre un determinado problema, con el fin de dar una estimación cuantitativa sintética de todos los estudios disponibles. Dado que incluye un número mayor de observaciones, un metanálisis tiene un poder estadístico superior al de los ensayos clínicos que incluye. Los dos principales problemas metodológicos de los metanálisis de ensayos clínicos son:
- La heterogeneidad entre los ensayos incluidos, en términos de características clínicas y socio-demográficas de las poblaciones en cada ensayo, los métodos de evaluación clínica aplicados, la dosis, forma farmacéutica o pauta de dosificación del fármaco evaluado, etc.
- El posible sesgo de publicación, derivado de que no todos los ensayos clínicos realmente realizados han sido publicados, por resultados negativos o no esperados.
Un metanálisis clínico se basa principalmente en una integración o reciclaje entre la información ya obtenida y poder obtener un análisis mayor.
El primer metanálisis clínico fue realizado por Karl Pearson en 1904, en un intento de superar el problema del reducido poder estadístico de los estudios con pequeños tamaños muestrales; si se analizan los resultados de un grupo de estudios similares, se puede alcanzar una valoración más exacta de los efectos.
En Estadística, un metanálisis se refiere al conjunto de métodos enfocados a contrastar y combinar los resultados de diferentes estudios; con la esperanza de identificar patrones entre los resultados de estudio, las fuentes de desacuerdo entre dichos resultados, u otras relaciones interesantes que pueden salir a la luz en el contexto de múltiples estudios. Además, el metanálisis también se puede aplicar a un solo estudio en los casos en los que hay muchas cohortes que no han pasado por los mismos criterios de selección o en las que las mismas metodologías de investigación no se han aplicado a todas de la misma manera o bajo el mismo condiciones exigentes. En estas circunstancias, cada cohorte se trata como un estudio individual y se utiliza el metanálisis para extraer conclusiones de todo el estudio.[15]
En su más simple forma, se lleva a cabo al identificar una medida común del tamaño de efecto; del cual un promedio ponderado podría ser el dato de salida en un metanálisis. La ponderación podría estar relacionada con tamaños de muestra dentro de los estudios individuales.
Más a menudo, hay otras diferencias entre los que necesitan ser permitidos; pero el objetivo general de un metanálisis radica en estimar con mayor fuerza el tamaño real de efecto, en contraste a uno menos preciso derivado en un solo estudio bajo un sencillo conjunto determinado de supuestos y condiciones.
Varios artículos recientes, en la literatura científica internacional, brindan valiosas guías sobre cómo leer e interpretar artículos que reportan metaanálisis [16][17] [18].
Referencias
editar- ↑ Borenstein, M. in Meta-Analysis: Concepts and Applications - Seminar organized by Statistical Horizons; 2013.
- ↑ Lelorier, J.; Grégoire, G. V.; Benhaddad, A.; Lapierre, J.; Derderian, F. O. (1997). "Discrepancies between Meta-Analyses and Subsequent Large Randomized, Controlled Trials". New England Journal of Medicine 337 (8): 536–542
- ↑ Hunter, Schmidt, & Jackson, John E. (1982). Meta-analysis: Cumulating research findings across studies. Beverly Hills, California: Sage.
- ↑ Glass, McGaw, & Smith (1981). Meta-analysis in social research. Beverly Hills, CA: Sage.
- ↑ a b Rosenthal, Robert (1979). «The "File Drawer Problem" and the Tolerance for Null Results». Psychological Bulletin 86 (3): 638-641. doi:10.1037/0033-2909.86.3.638.
- ↑ Hunter, John E; Schmidt, Frank L (1990). Methods of Meta-Analysis: Correcting Error and Bias in Research Findings. Newbury Park, California; London; New Delhi: SAGE Publications.
- ↑ Light & Pillemer (1984). Summing up: The science of reviewing research. Cambridge, CA: Harvard University Pree.
- ↑ Ioannidis, J., & Trikalinos, T. (2007). «The appropriateness of asymmetry tests for publication bias in meta-analyses: a large survey». Canadian Medical Association Journal 176 (8): 638-641. doi:10.1503/cmaj.060410.
- ↑ Ferguson, C., & Brannick, M. (2012). «Publication bias in psychological science: Prevalence, methods for identifying and controlling, and implications for the use of meta-analyses». Psychological Methods 17 (1): 120-128. doi:10.1037/a0024445. Archivado desde el original el 18 de julio de 2012. Consultado el 23 de julio de 2013.
- ↑ «La Declaración PRISMA». Prisma-statement.org. 2 de febrero de 2012. Consultado el 2 de febrero de 2012.
- ↑ Debray, Thomas P. A.; Moons, K.G.M.; Abdallah, A.Z.; Koffijberg, H.; Riley, R.D. (2013). «Individual participant data meta-analysis for a binary outcome: one-stage or two-stage?». PLoS ONE.
- ↑ Senn S. Trying to be precise about vagueness. Stat Med 2007; 26:1417–30
- ↑ Al Khalaf MM, Thalib L, Doi SA. "Combining heterogenous studies using the random-effects model is a mistake and leads to inconclusive meta-analyses" Archivado el 25 de marzo de 2020 en Wayback Machine.. Journal of Clinical Epidemiology 2011; 64:119–23
- ↑ Kontopantelis E, Reeves D. Performance of statistical methods for meta-analysis when true study effects are non-normally distributed: A simulation study. Statistical Methods in Medical Research. 2010 Dec. doi: http://dx.doi.org/10.1177/0962280210392008
- ↑ Rühlemann, Malte Christoph; Hermes, Britt Marie; Bang, Corinna; Doms, Shauni; Moitinho-Silva, Lucas; Thingholm, Louise Bruun; Frost, Fabian; Degenhardt, Frauke et al. (2021-02). «Genome-wide association study in 8,956 German individuals identifies influence of ABO histo-blood groups on gut microbiome». Nature Genetics 53 (2): 147-155. ISSN 1546-1718. PMID 33462482. doi:10.1038/s41588-020-00747-1. Consultado el 12 de noviembre de 2021.
- ↑ Murad, Mohammad Hassan; Montori, Victor M.; Ioannidis, John P. A.; Jaeschke, Roman; Devereaux, P. J.; Prasad, Kameshwar; Neumann, Ignacio; Carrasco-Labra, Alonso et al. (2014-07). «How to read a systematic review and meta-analysis and apply the results to patient care: users' guides to the medical literature». JAMA 312 (2): 171-179. ISSN 1538-3598. PMID 25005654. doi:10.1001/jama.2014.5559. Consultado el 27 de octubre de 2024.
- ↑ Carlson, Rebecca B.; Martin, Jennifer R.; Beckett, Robert D. (2023-09). «Ten simple rules for interpreting and evaluating a meta-analysis». PLoS computational biology 19 (9): e1011461. ISSN 1553-7358. PMID 37768880. doi:10.1371/journal.pcbi.1011461. Consultado el 27 de octubre de 2024.
- ↑ Wang, Xiao-Meng; Zhang, Xi-Ru; Li, Zhi-Hao; Zhong, Wen-Fang; Yang, Pei; Mao, Chen (2021-05). «A brief introduction of meta-analyses in clinical practice and research». The Journal of Gene Medicine 23 (5): e3312. ISSN 1521-2254. PMC 8243934. PMID 33450104. doi:10.1002/jgm.3312. Consultado el 27 de octubre de 2024.
Bibliografía
editar- Botella, J.; Sánchez-Meca, J. (2015). Meta-análisis en ciencias sociales y de la salud. Madrid: Editorial Síntesis.
- Cooper, H. & Hedges, L.V. (1994). The Handbook of Research Synthesis. New York: Russell Sage.
- Cornell, J. E. & Mulrow, C. D. (1999). Meta-analysis. In: H. J. Adèr & G. J. Mellenbergh (Eds). Research Methodology in the social, behavioral and life sciences (pp. 285–323). London: Sage.
- Norman S.-L. T. (1999). «Tutorial in Biostatistics. Meta-Analysis: Formulating, Evaluating, Combining, and Reporting». Statistics in Medicine 18 (3): 321-359. PMID 10070677. doi:10.1002/(SICI)1097-0258(19990215)18:3<321::AID-SIM28>3.0.CO;2-P.
- Sutton, A.J., Jones, D.R., Abrams, K.R., Sheldon, T.A., & Song, F. (2000). Methods for Meta-analysis in Medical Research. London: John Wiley. ISBN 0-471-49066-0
- Higgins JPT, Green S (editors). Cochrane Handbook for Systematic Reviews of Interventions Version 5.0.1 [updated September 2008]. The Cochrane Collaboration, 2008. Available from www.cochrane-handbook.org
Lecturas adicionales (en inglés)
editar- Thompson, Simon G; Pocock, Stuart J (2 de noviembre de 1991). «Can meta-analysis be trusted?». The Lancet 338 (8775): 1127-1130. PMID 1682553. doi:10.1016/0140-6736(91)91975-Z. Archivado desde el original el 22 de noviembre de 2011. Consultado el 17 de junio de 2011.. Explores two contrasting views: does meta-analysis provide "objective, quantitative methods for combining evidence from separate but similar studies" or merely "statistical tricks which make unjustified assumptions in producing oversimplified generalisations out of a complex of disparate studies"?
- Wilson, D. B., & Lipsey, M. W. (2001). Practical meta-analysis. Thousand Oaks: Sage publications. ISBN 0-7619-2168-0
- O'Rourke, K. (2007) Just the history from the combining of information: investigating and synthesizing what is possibly common in clinical observations or studies via likelihood. Oxford: University of Oxford, Department of Statistics. Gives technical background material and details on the "An historical perspective on meta-analysis" paper cited in the references.
- Owen, A. B. (2009). "Karl Pearson's meta-analysis revisited". Archivado el 26 de julio de 2011 en Wayback Machine. Annals of Statistics, 37 (6B), 3867–3892. Supplementary report.
- Ellis, Paul D. (2010). The Essential Guide to Effect Sizes: An Introduction to Statistical Power, Meta-Analysis and the Interpretation of Research Results. United Kingdom: Cambridge University Press. ISBN 0-521-14246-6
- Bonett, D.G. (2012). Replication-extension studies, Current Directions in Psychology, 21, 409-412.
- Bonett, D.G. (2010). Varying coefficient meta-analysis methods for alpha reliability, Psychological Methods, 15, 368–385.
- Bonett, D.G. (2009). Meta-analytic interval estimation for standardized and unstandardized mean differences, Psychological Methods, 14, 225–238.
- Bonett, D.G. (2008). Meta-analytic interval estimation for bivariate correlations, Psychological Methods, 13, 173–189.
- Stegenga, Jacob (2011). «Is meta-analysis the platinum standard of evidence?». Studies in History and Philosophy of Biological and Biomedical Sciences 42 (4): 497-507. doi:10.1016/j.shpsc.2011.07.003.
Enlaces externos
editar- Wikiversidad alberga proyectos de aprendizaje sobre Metaanálisis.
- Cochrane Handbook for Systematic Reviews of Interventions
- Effect Size and Meta-Analysis Archivado el 26 de abril de 2015 en Wayback Machine. (ERIC Digest)
- Meta-Analysis at 25 (Gene V Glass)
- Meta-Analysis in Educational Research Archivado el 14 de febrero de 2015 en Wayback Machine. (ERIC Digest)
- Meta-Analysis: Methods of Accumulating Results Across Research Domains Archivado el 31 de agosto de 2013 en Wayback Machine. (article by Larry Lyons)
- Meta-analysis Archivado el 22 de febrero de 2015 en Wayback Machine. (Psychwiki.com article)
- EffectSizeFAQ.com
- Meta-Analysis in Economics (Reading list)
- Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) Statement, "an evidence-based minimum set of items for reporting in systematic reviews and meta-analyses."
Software
editar- MetaXL software page
- Effect Size Calculators Calculate d and r from a variety of statistics.
- ClinTools (commercial)
- Comprehensive Meta-Analysis (commercial)
- MIX 2.0 Professional Excel addin with Ribbon interface for meta-analysis and effect size conversions in Excel (free and commercial versions).
- What meta-analysis features are available in Stata
- The Meta-Analysis Calculator Archivado el 5 de diciembre de 2009 en Wayback Machine. free on-line tool for conducting a meta-analysis
- Metastat (Free)
- Meta-Analyst Free Windows-based tool for Meta-Analysis of binary, continuous and diagnostic data
- Revman A free software for meta-analysis and preparation of cochrane protocols and review available from the Cochrane Collaboration
- Metafor-project A free software package to conduct meta-analyses in R.
- Calculation of fixed and random effects in R source code for performing univariate and multivariate meta-analyses in R, and for calculating several statistics of heterogeneity.
- Macros in SPSS Archivado el 15 de febrero de 2015 en Wayback Machine. Free Macros to conduct meta-analyses in SPSS.
- compute.es: Compute Effect Sizes (R package).
- MAd GUI User friendly graphical user interface package to conduct meta-analysis in R (Free).
- A living Meta-Analysis A web-based tool to crowd-source meta-analyses that become living documents (Shiny app)