SciELO - Scientific Electronic Library Online

 
vol.41 issue2Reading Argumentative Texts: Effects of the presence-absence of connectives in reading comprehension and cognitive effort author indexsubject indexarticles search
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

  • Have no similar articlesSimilars in SciELO

Share


Revista Costarricense de Psicología

On-line version ISSN 1659-2913Print version ISSN 0257-1439

Rev. Costarric. Psic vol.41 n.2 San José Jul./Dec. 2022

http://dx.doi.org/10.22544/rcps.v41i02.02 

Artículo

De alfa a omega: Estimación de la confiabilidad ordinal. Una guía práctica

From alpha to omega: Estimation of ordinal reliability. A practical guide

Nicolás Vizioli1 

Alejandro Pagano1 

1 Universidad de Buenos Aires, Buenos Aires, Argentina

Resumen

La presente investigación realiza un recorrido por el concepto de confiabilidad como una de las propiedades psicométricas fundamentales en la Teoría Clásica de los Test. Se desarrolla el concepto y cuáles son sus diferentes aplicaciones prácticas para indagar el grado de confiabilidad de un instrumento de medición. Se centra el estudio en el cálculo de la consistencia interna a partir del alfa y el omega como los coeficientes más utilizados y la importancia de calcularlos mediante la utilización de matrices de correlaciones policoricas (MCP). Como objetivo principal se presenta una guía en español para el cálculo de coeficientes ordinales de confiabilidad al utilizar el programa R/RStudio.

Se brinda un ejemplo a nivel empírico que da cuenta la relevancia de calcular este tipo decoeficientes para el cálculo de la confiabilidad de un instrumento. Al emplear una muestra de 266 adultos entre 18 y 63 años (M = 31.91, DE = 11.50), se administró la versión adaptada a argentina del Inventario de Ansiedad de Beck y el Cuestionario de Regulación Emocional. De esta manera, se exponen coeficientes para estimar la confiabilidad de los instrumentos que dan cuenta de sus ventajas y desventajas, al realizar el cálculo mediante MCP, matriz de correlaciones de Pearson y matriz de covarianzas de Pearson. A partir de los resultados, se evidencia que el cálculo mediante MCP proporcionó grados de confiabilidades mayores respecto al cálculo mediante las otras dos matrices. Se espera que el presente documento sea de importancia para investigadores no familiarizados con R.

Palabras clave: confiabilidad; única administración; alfa; omega; matrices de correlaciones policoricas; R/Rstudio

Abstract

The present study takes a tour of the concept of reliability as one of the fundamental psychometric properties in Classical Tests Theory. The concept and its different practical applications are developed to investigate the degree of reliability of a measuring instrument. Focusing on the calculation of internal consistency from alpha and omega as the most used coefficients and the importance of calculating these coefficients by using polychoric correlation matrices (PCM). The main objective is to present a guide in Spanish for the calculation of ordinal reliability coefficients using the R/Rstudio program. Providing an example at the empirical level that shows the relevance of calculating this type of coefficients for calculating the reliability of an instrument. Using a sample of 266 adults between the ages of 18 and 63 years (M = 31.91 SD = 11.50), the version adapted to Argentina of the Beck Anxiety Inventory and the Emotional Regulation Questionnaire were administered. In this way, coefficients are exposed to estimate the reliability of the instruments that account for their advantages and disadvantages, performing the calculation using MCP, Pearson’s correlation matrix and Pearson’s covariance matrix. From the results, it is evident that the calculation using MCP provided higher degrees of reliability compared to the calculation using the other two matrices. This document is expected to be of importance to researchers unfamiliar with R.

Keywords: Reliability; Single Administration; Alpha; Omega; Polychoric Correlations Matrix; R/Rstudio

Confiabilidad y consistencia interna desde la Teoría Clásica de los Tests

En el marco de la construcción y la adaptación de instrumentos, la validez y la confiabilidad constituyen las principales propiedades psicométricas desde la Teoría Clásica de los Tests (TCT) (Mikulic, 2007). La TCT plantea la existencia de una puntuación empírica obtenida mediante la administración de un test, que se compone por una puntuación verdadera y el error de medida (Muñiz, 2010). La idea subyacente consiste en que, al administrar un test infinitas veces, el promedio del error de medida sería cero y se obtendría una puntuación verdadera. De manera que una técnica confiable es aquella que maximiza la puntuación verdadera de manera consistente y precisa (Mikulic, 2007).

Desde la óptica de la TCT, la confiabilidad refiere al grado en el que una repetición hipotética de la misma medida daría los mismos resultados (Muñiz, 2010). El coeficiente de confiabilidad es definido como la razón de la varianza de la puntuación verdadera y la varianza de la puntuación observada al ser la puntuación observada la suma de la puntuación verdadera y la varianza del error (Lord & Novick, 1968).

De manera que la confiabilidad pretende acercar a una prueba a una puntuación libre de errores. En este sentido, la variabilidad que pudiera haber en el error como consecuencia de la influencia de cualquier variable, cambiaría el valor del coeficiente de confiabilidad (Dunn et al., 2014). Por lo tanto, la confiabilidad no estaría únicamente asociada a la prueba que se esté estudiando, sino también a la muestra y el contexto de administración (Dunn et al., 2014; Thurstone, 1928).

La confiabilidad puede definirse, también, como la correlación entre una prueba y otra prueba igual, por lo que su cálculo requeriría de una segunda prueba (Revelle & Zinbarg, 2009). La realización de distintas administraciones implica una serie de complicaciones logísticas y costos, que ha originado la elaboración de alternativas para analizar la estructura interna de un instrumento mediante una sola administración (McNeish, 2018; Revelle & Zinbarg, 2009). Ello ha generado la formulación de concepciones propias de la consistencia interna (McDonald, 1981; Raykov & Marcoulides, 2019; Sijtsma & van der Ark, 2015). Sin embargo, la consistencia interna frecuentemente se encuentran ligadas al coeficiente alfa.

Según Revelle (1979), la consistencia interna puede definirse como el grado en que todos los elementos o reactivos de una prueba miden el mismo constructo. Sin embargo, se ha considerado innecesaria la distinción de la consistencia interna de manera distinta de la confiabilidad (Raykov & Marcoulides, 2019), al igual que a la concepción de distintos tipos de confiabilidad (Raykov, 2012).

El alfa, el omega y coeficientes alternativos para estimar la confiabilidad

El coeficiente alfa fue propuesto, por primera vez, por Guttman (1945) y popularizado por Cronbach (1951). Históricamente, ha sido el más utilizado para analizar la confiabilidad, por su facilidad para comunicarlo, su estimación mediante una sola aplicación de una prueba y por su presencia en distintos softwares estadísticos (Viladrich et al., 2017).

Sin embargo, el cálculo del alfa exige la presencia de supuestos cuyo cumplimiento resulta complejo en situaciones reales: la tau-equivalencia, la unidimensionalidad y la ausencia de errores correlacionados (McNeish, 2018; Raykov, 1998). Sin embargo, en tanto estos supuestos se cumplan, el coeficiente alfa es recomendado (Raykov & Marcoulides, 2019; Savalei et al., 2019). A su vez, en caso de incumplirse la tau-equivalencia, el coeficiente alfa puede aproximarse al mayor límite inferior de confiabilidad (Cronbach, 1951; Trizano-Hermosilla & Alvarado, 2016; Sijtsma, 2009).

Revelle y Zinbarg (2009) han sugerido al coeficiente omega total (McDonald, 1999) como un estimador alternativo del mayor límite inferior de confiabilidad correspondiente a modelos congenéricos.

También, el omega total requiere unidimensionalidad y ausencia de errores correlacionados (Domínguez Lara, 2016; Savalei et al., 2019), aunque suele ser más estable por calcularse a partir de cargas factoriales (Ventura-León, 2018). Flora (2020) y Trizano-Hermosilla y Alvarado (2016) han recomendado reportar el omega jerárquico, que permite calcular la proporción de la varianza de los elementos de la escala en relación con el factor general para determinar el grado en que los puntajes sumados de los ítems están saturados por el factor general (Green & Yang, 2015). De manera que el omega jerárquico resulta más adecuado cuando el modelo subyacente a los datos es bifactorial o con un factor de segundo orden (Flora, 2020). Sin embargo, para instrumentos que tienen una estructura establecida con varias dimensiones, que no están fuertemente correlacionadas, se recomienda el cálculo del alfa o el omega total para cada dimensión (Savalei et al., 2019).

En cuanto a la relación entre omega total y alfa, los valores suelen ser ligeramente más elevados en el omega (Revelle & Zinbarg, 2009), aunque no suele haber grandes diferencias en la práctica (Deng & Chang, 2017). Incluso, ambos coeficientes comparten la característica de que la adición de ítems provocaría el aumento del valor del coeficiente de confiabilidad. (Cortina, 1993; Hair et al., 2014).

Es decir, que antes de elegir un coeficiente de confiabilidad deberán examinarse la dimensionalidad del instrumento y el ajuste de los modelos congenéricos y tau equivalente a los datos. Al comprender que el modelo tau equivalente implica la restricción o la similitud de las cargas factoriales en el contexto de un análisis factorial y que el modelo congenérico permite que los valores varíen libremente (Dunn et al., 2014; Viladrich et al., 2017)

Otro de los coeficientes recomendados (McNeish, 2018), cuando el modelo congenérico exhibe un ajuste adecuado, es el H (Hancock & Mueller, 2001). El coeficiente H se calcula en el contexto de análisis factoriales confirmatorios y se distingue de otros coeficientes, fundamentalmente, porque utiliza las puntuaciones ponderadas de la escala, en lugar de las no ponderadas (Aguirre-Urreta et al., 2019;

McNeish, 2018; Savalei et al., 2019). Este coeficiente se ofrece como medida complementaria para la estimación de la confiabilidad del constructo y puede interpretarse como el porcentaje de la variabilidad de la variable latente explicada por los indicadores (Domínguez-Lara, 2016; Hancock & Mueller, 2001).

El coeficiente H presenta la ventaja de poder calcularse inclusive en modelos multidimensionales. Sin embargo, como sucede con el alfa y el omega, su valor aumenta con la adición de reactivos (Domínguez Lara, 2016). Además, presenta sesgos en la estimación de la confiabilidad en distintas condiciones muestrales (Aguirre-Urreta et al., 2019).

McNeish (2018), Sijtsma (2009) y Trizano-Hermosilla y Alvarado (2016) han indicado el cálculo del coeficiente greatest lower bound (GBL, Jackson & Agunwamba, 1977). El GLB se desprende de la noción de confiabilidad derivada de la TCT y estima la dimensionalidad mínima de la puntuación real bajo el supuesto de que la matriz de covarianza observada es la verdadera (Savalei et al., 2019). Dada la dificultad para realizar su cálculo, se han propuesto dos procedimientos: el cálculo mediante el análisis factorial de rangos mínimos (Trizano-Hermosilla & Alvarado, 2016) y el llamado GLB algebraico (Moltner & Revelle, 2015). Es preciso mencionar que, así como el alfa y el omega, este coeficiente posee limitaciones, porque se ha reportado que el coeficiente puede ofrecer valores sesgados cuando las muestras no son lo suficientemente grandes (Sijtsma, 2009).

Revelle y Zinbarg (2009) han sugerido cálculo del coeficiente beta (Revelle, 1979), que permite estimar la confiabilidad de la peor mitad de un instrumento mediante la realización de análisis de conglomerados jerárquicos. Es decir, que los ítems se agrupan de tal manera que es posible hallar la peor mitad del instrumento.

Otra alternativa propuesta ha sido el coeficiente theta (Armor, 1973), que se calcula a partir del análisis de componentes principales con el objetivo de estimar la varianza de las variables observables (Domínguez-Lara, 2012; Elosua & Zumbo, 2008).

Estimación de la confiabilidad ordinal a partir de matrices de correlaciones policóricas

Por lo general, el cálculo de coeficientes de confiablidad requiere matrices de correlaciones o covarianzas. En caso de que los ítems fueran continuos, puede trabajarse con matrices de correlaciones o covarianzas de Pearson. Cuando los datos son ordinales o dicotómicos, se debe trabajar con matrices de correlaciones policóricas (MCP) o tetracóricas, respectivamente (Elosua & Zumbo, 2008; Gadermann et al., 2012; Jöreskog, 1994; Viladrich et al., 2017).

Las MCP permiten estimar la relación lineal entre dos variables latentes continuas que subyacen a dos variables observables o reactivos ordinales (Flora & Curran, 2004). Miden la asociación bivariada entre dos variables con escala ordinal al explicar su naturaleza no lineal (Flora, 2020). La lógica detrás de la aplicación de MCP yace en que el escalamiento ordinal permite tratar como discretas variables latentes continuas (Zumbo & Kroc, 2019). Mientras que las estimaciones de la confiablidad se realizan tomando en cuenta las relaciones de cada ítem de una escala con su variable latente, independientemente del número de categorías (Elosua & Zumbo, 2008).

La utilización de MCP se basa en que el tratamiento de datos como si fueran continuos cuando no cumplen este supuesto, pueden llevar a infraestimaciones de la confiabilidad (Gadermann et al., 2012; Zumbo et al., 2007). Sin embargo, conforme la cantidad de opciones de respuesta para los ítems van aumentando, los datos pueden tratarse como continuos con resultados similares (Rhemtulla et al., 2012).

De manera que antes de realizar cálculos de confiabilidad deben considerarse la dimensionalidad del instrumento, el ajuste a modelos congenéricos o tau-equivalentes y las diferencias que pudieran surgir como resultado del número de opciones de respuestas.

Softwares gratuitos para el cálculo de coeficientes ordinales de confiabilidad

La utilización de matrices de correlaciones de Pearson ha sido el procedimiento predilecto para la estimación de la confiabilidad en casos de datos ordinales, posiblemente, por la facilidad de su cálculo mediante los softwares más difundidos (Gadermann et al., 2012). Sin embargo, en los últimos años, distintos softwares han ido incorporando la posibilidad de estimar MCP y coeficientes ordinales de confiabilidad.

Entre los softwares gratuitos, el Factor (Lorenzo-Seva & Ferrando, 2020) es un programa especializado en los análisis factoriales exploratorios que ofrece gran flexibilidad. Incluye distintos procedimientos para el suavizado de las matrices, la posibilidad de calcular matrices policóricas, tetracóricas y de Pearson, y diversos métodos de extracción y rotación. Asimismo, permite el cálculo de los coeficientes omega y GLB para estimar la confiabilidad. Es posible descargar la última versión del Factor por medio del siguiente enlace: https://psico.fcep.urv.cat/utilitats/factor/Download.html

A su vez, existen distintos módulos compatibles con Excel que posibilitan el cálculo de índices de confiabilidad. Si bien el Excel no es un programa gratuito, existen alternativas no aranceladas. En cuanto a los módulos, Domínguez-Lara (2012, 2018) ofrece módulos para obtener los coeficientes alfa y theta, que pueden ser solicitados de manera gratuita vía mail. Domínguez-Lara (2016) y McNeish (2018) han propuesto herramientas para el cálculo del coeficiente H. En el primer caso, la planilla puede ser solicitada vía mail al autor. En el segundo, la planilla además permite obtener el omega y puede ser descargada de https://sites.google.com/site/danielmmcneish/acdemic-work/reliability

Otro de los softwares que permite el cálculo de coeficientes ordinales de confiabilidad es el R (R Development Core Team, 2020). R es un lenguaje de programación cuya flexibilidad radica en la posibilidad de customizarlo de acuerdo con las necesidades mediante la descarga de paquetes que incluyen distintos contenidos. Estos paquetes pueden ser confeccionados por usuarios de todo el mundo, quienes lo comparten en la comunidad que utiliza R. Puede descargarse la última versión de R de http://www.r-project.org/

Entre los paquetes que posibilitan la obtención de coeficientes ordinales de confiabilidad, pueden citarse psych (Revelle, 2011), GPArotation (Bernaards & Jennrich, 2005), MBESS (Kelley & Lai, 2012), Rcmdr (Fox & Bouchet-Valat, 2019), lavaan (Rosseel, 2012) o semTools (Jorgensen et al., 2020)

La presente investigación

Existen distintos artículos que incluyen guías, recomendaciones y tutoriales para realizar cálculos de coeficientes de confiabilidad en R. Por ejemplo, Dunn et al. (2014), Flora (2020) y Gaderman et al. (2012), McNeish (2018), Savalei et al. (2019), Ventura-León (2018) y Viladrich et al. (2017). Sin embargo, no se han hallado guías que indiquen el paso a paso para R escritas en español. Asimismo, la utilización del R puede resultar compleja para investigadores no familiarizados con la programación. Una alternativa posible, para este último inconveniente, consiste en la utilización de Rstudio (Racine, 2011).

Rstudio es una interfaz diseñaba con la finalidad de simplificar el uso de los comandos de R, que incluye un menú de fácil empleo para los usuarios. Por lo tanto, la presente investigación presenta una guía en español para el cálculo de coeficientes ordinales de confiabilidad con R/Rstudio. Puntualmente, apunta a estudiantes e investigadores no familiarizados con R.

Se ofrece un ejemplo de la importancia de calcular coeficientes ordinales con datos reales. Al considerar el estudio de la dimensionalidad de los instrumentos, el ajuste a modelo congenérico o al tau equivalente y posibles diferencias mediante el cálculo de coeficientes mediante de correlaciones y covarianzas de Pearson, y MCP.

Procedimiento para calcular coeficientes ordinales de confiabilidad en R/Rstudio

Se debe descargar R de http://www.r-project.org/. En esa dirección, además de links de descarga, es posible hallar información y novedades sobre R. Para descargar R, es preciso clickear en CRAN mirror y seleccionar el link que corresponda según la cercanía geográfica. Se abrirá una ventana donde el usuario podrá descargar versiones de R para Windows, OS X o Linux, bajo el subtítulo Download and Install R. Luego de clicar en el enlace, según el sistema operativo que se esté usando, aparecerá una nueva pestaña. Por ejemplo, si se seleccionó Download R for Windows. La página siguiente tendrá como título R for Windows. Allí, se debe clickear install R for the first time, que redirigirá a un link que permite descargar la última versión de R. A continuación, se debe descargar, abrir el instalador e instalar el R.

Nótese que durante la instalación se permite seleccionar versiones de 32 o 64 bits de R.

Una vez instalado R, se puede descargar R/Rstudio mediante el siguiente enlace, que permite elegir versiones pagas o gratuitas: https://rstudio.com/products/rstudio/download/. En este tutorial, se seleccionará el link de descarga de la versión gratuita. Luego, corresponde descargar e instalar R/Rstudio.

Con R/Rstudio ya instalado, es posible importar bases de datos de otros softwares, así como descargar los paquetes necesarios para estimar la confiabilidad ordinal. Para descargar los paquetes, se debe seleccionar Tools en el menú de R/Rstudio, y la opción install packages. Allí, se deben escribir, respetando espacios, mayúsculas y minúsculas, los nombres de los paquetes por descargar, separados por comas o espacios. En este caso, se ingresa: psych GPArotation Rcmdr lavaan semTools y clickear en install.

Una vez que los paquetes hayan sido instalados, R/Rstudio informará su correcta instalación, así como la carpeta de ubicación.

Ya instalados los paquetes, es posible utilizarlos. Para ello, se debe hacer que los paquetes sean partes del entorno del software, cada vez que se inicie R/Rstudio. Se debe ingresar el comando library en la consola de R/Rstudio, seguido del nombre del paquete a usar entre paréntesis. Por ejemplo, library(psych) permite el uso del paquete psych mediante su integración al entorno. Es preciso mencionar que R/Rstudio presenta una función de autocompletar, luego de cada comando ejecutado en la consola. Facilita, por ejemplo, la inclusión de paquetes en el entorno.

R/Rstudio permite importar bases de datos de EXCEL, SPSS, SAS y Stata, así como documentos de texto. Para ello, se debe clickear File en el menú de R/Rstudio, a continuación, Import Dataset, elegir el programa que corresponda y seleccionar la base de datos por trabajar. R/Rstudio ofrece la posibilidad de visualizar la base de datos arriba de la consola, una vez importada.

Cuando se cuente con la base de datos dentro del entorno, es posible seleccionar ítems para armar un conjunto de datos. Para ello, se debe escribir el nombre del nuevo conjunto de datos seguido de <-data.frame y los ítems que lo conformarán.. Por ejemplo, itemsERQ<-data.frame(ERQ,ERQ2,ERQ3,ERQ4,ERQ5,ERQ6,ERQ7,ERQ8,ERQ9). En caso de trabajar con varios conjuntos de datos, se puede seleccionar uno mediante el comando attach y el nombre de conjunto entre paréntesis. Por ejemplo, attach(itemsERQ).

Para examinar la dimensionalidad de un instrumento, se puede recurrir a las funciones de los paquetes lavaan y semTools, que permiten gran flexibilidad para el trabajo con ecuaciones estructurales. O bien, puede recurrirse a la relación de análisis factoriales exploratorios (AFE) con los paquetes psych y GPArotation. En el último caso, la función fa distintos algoritmos que permiten la realización de AFE y se encuentran desarrolladas en Revelle (2021). En el presente ejemplo, se utilizarán los paquetes lavaan y semTools para recurrir al análisis factorial confirmatorio (AFC). Si bien las funciones del paquete lavaan pueden encontrarse descriptas en Rosseel (2020) y exceden a los propósitos de la presente investigación. Con este paquete, pueden especificarse modelos unidimensionales y multidimensionales y examinar su ajuste. Por ejemplo:

modelo.ERQ <- ’supresión =~ ERQ2 + ERQ5 + ERQ8

reevaluación =~ ERQ1 + ERQ3 + ERQ6 + ERQ9

Luego, con la función cfa se puede evaluar el ajuste, se selecciona el modelo por examinar y el conjunto de datos correspondiente. Indica la naturaleza ordinal de los ítems mediante la función ordered.

Por ejemplo: ajuste <- cfa(modeloERQ, data=itemsERQ, ordered = c(‘ERQ1’,’ERQ2’, ‘ERQ3’,’ERQ4’, ‘ERQ5’,’ERQ6’,’ERQ7’, ‘ERQ8’,’ERQ9’)). De esta manera, lavaan realiza las estimaciones, por defecto, mediante MCP y el método de estimación de mínimos cuadrados ponderados diagonales (DWLS).

A continuación, la función summary permite visualizar un resumen del ajuste del modelo que incluye índices de bondad de ajuste, cargas estandarizadas y valores de error. La forma en que se computa este resumen es escribiendo summary en la consola, con el nombre del ajuste solicitado por el usuario y las medidas de ajuste entre paréntesis. Por ejemplo: summary (ajuste, fit.measures=TRUE).

A continuación, se debe evaluar el ajuste de los datos a los modelos congenérico y tau equivalente para seleccionar el coeficiente de confiabilidad a utilizar. Para ello, puede examinarse la similitud entre las cargas estandarizadas de los ítems (McNeish, 2018). Al seguir el ejemplo de McNeish (2018), un modelo tau equivalente podría exhibir cargas estandarizadas con valores como .711; .714; .716; .709; y .721. Si las cargas estandarizadas varían, se trata de un modelo congenérico.

El paso siguiente consiste en calcular y guardar las MCP. Para ello, se utilizará el comando poly choric. Para calcular una MCP se debe escribir en la consola polychoric seguido del nombre del conjunto de datos con el que se está trabajando, entre paréntesis. Por ejemplo: polychoric (itemsERQ). Para guardar la MCP, se debe ingresar el nombre que se desea que tenga, como podría ser MCPitemsERQ, junto con el comando polychoric. Por ejemplo: MCPitemsERQ <-polychoric(itemsERQ). De manera que ya pueden calcularse los coeficientes ordinales de la MCP guardada.

Se pueden seleccionar distintos coeficientes de confiabilidad que pueden ser calculados mediante psych y GPArotation, que se resumen en la tabla 1. Nótese que, luego de insertar el nombre de la MCP, se debe ingresar el comando $rho. Este comando implica que únicamente la matriz se utiliza para los cálculos, independientemente de otra información guardada junto con la matriz (Gadermann et al., 2012).

Es preciso mencionar que el paquete psych incluye funciones que exceden al objetivo de la presente investigación y pueden ser consultadas en Revelle (2020).

Tabla 1 Funciones y coeficientes calculables mediante los paquetes psych y GPArotation 

Nota. El texto entre paréntesis hace referencia al nombre en que el usuario guardó la matriz de correlaciones policóricas.

Como puede observarse, los paquetes psych y GPArotation ofrecen la posibilidad de calcular distintos coeficientes ordinales a partir de MCP. A continuación, se ofrece un ejemplo de la importancia del cálculo de coeficientes ordinales mediante comparaciones de estimaciones partir de matrices de correlaciones y covarianzas de Pearson, y MCP.

Método

Diseño

Se realizó un estudio observacional de tipo transversal, porque se realizó una medición única (Manterola et al., 2019).

Participantes

Se recogió una muestra de 266 participantes de 18 a 63 años (M = 31.91; DE = 11.50). En cuanto al género, el 60.5% de los participantes reportó mujer; el 37.5% varón; el 1.5% otro y el 0.5% prefirió no decirlo. El 44% de los participantes informó trabajar en relación de dependencia; el 29%, como monotributista; el 20% se dedica al estudio; el 5% se encuentra desocupado y el 2%, jubilado. En relación con el nivel de instrucción alcanzado, el 40% expresó poseer universitario incompleto o en curso; el 24.5 %, universitario completo; el 9%, terciario incompleto o en curso; el 9%, secundario completo; el 8%, posgrado; el 8%, terciario completo; el 1%, secundario incompleto y el 0.5%, primario incompleto.

Instrumentos

Inventario de Ansiedad de Beck (BAI; Beck et al, 1988; adaptación argentina: Vizioli & Pagano, 2020). Es un instrumento autoadministrable de 21 ítems, que miden síntomas característicos de la ansiedad. La puntuación de los reactivos se realiza sobre una escala Likert de 4 opciones (0 a 3). El Inventario presenta adecuadas propiedades psicométricas para la población argentina, con evidencias de validez de constructo a través de AFC, y una confiabilidad de alfa ordinal = .93, y omega ordinal = .95.

Cuestionario de Regulación Emocional (ERQ; Gross & John, 2003; adaptación argentina: Pagano & Vizioli, en prensa). Cuestionario autoadministrable que consta de 9 ítems, 6 de los cuales evalúan la reevaluación cognitiva y 3 la supresión expresiva, a los que se responden mediante una escala Likert de 7 puntos, que va de 1 = totalmente en desacuerdo a 7 = totalmente de acuerdo. El cuestionario presenta adecuadas propiedades psicométricas para la población argentina con evidencias de validez de constructo a través de AFC, que indican una estructura que mide dos factores independientes. Presenta adecuadas evidencias de confiabilidad mediante alfa ordinal = .81 y omega ordinal = .87 para la reevaluación cognitiva y de alfa ordinal = .72 y omega ordinal = .79 para la supresión expresiva.

Procedimiento

Se realizó la recolección de datos mediante plataformas virtuales. En la administración se incluyeron un consentimiento informado y los instrumentos. El consentimiento informado explicaba la naturaleza voluntaria, anónima y sin compensación de la participación. A su vez, explicitó que los participantes podían abandonar la investigación en el momento que quisieran.

Análisis de datos

Para analizar la dimensionalidad de los instrumentos, se procedió a la realización de un AFC mediante el software R/Rstudio y el paquete lavaan, mediante el método DWLS a partir de MCP. Se utilizaron los índices de bondad de ajuste robustos: χ2 de Satorra-Bentler (S-B χ2) dividido por los grados de libertad (valores ≤ 5,0 indican un buen ajuste); NNFI (Non-Normed Fit Index); CFI (Comparative Fit Index), RMSEA (Root Mean Square Error of Approximation). De acuerdo con los criterios especificados por Kline (2011) y Schumacker & Lomax (2016) se consideró un ajuste aceptable a valores mayores o iguales a .90 en NNFI y CFI. En RMSEA, valores menores a .05 indican un buen ajuste y los valores comprendidos entre .05 y .08 un ajuste razonable (Browne & Cudeck, 1993). Se examinaron las cargas estandarizadas obtenidas con la finalidad de determinar la adecuación de los modelos congenéricos y tau equivalente.

A continuación, mediante los paquetes psych y GPArotation, en R/Rstudio, se calcularon matrices de covarianzas y correlaciones de Pearson, y MCP. A partir de ellas, se computaron los coeficientes de confiabildiad más difundidos y recomendados en la literatura: alfa, omega total, omega jerárquico y GLB (algebraico y factorial) para cada dimensión. Aunque el omega jerárquico es adecuado cuando el modelo subyacente es bifactorial o con un factor de segundo orden (Flora, 2020), se calculó como ejemplo. Se consideraron adecuados valores mayores a .80 en el alfa y el omega total y mayores a .65 en el omega jerárquico (Catalán, 2019).

Resultados

En primer lugar, se examinó la dimensionalidad de los instrumentos al probar el modelo unidimensional del BAI (Vizioli & Pagano, 2020) y el de dos factores independientes del ERQ (Pagano & Vizioli, en prensa; Gross & John, 2003). Como puede observarse, los índices de bondad de ajuste resultaron adecuados en ambos casos (tabla 2).

Tabla 2 Índices de bondad de ajuste de los modelos del BAI y del ERQ 

Nota: NNFI = Non-Normed Fit Index; CFI = Comparative Fit Index; RMSEA = Root Mean Square Error of Approximation; IC = intervalo de confianza; GL = grados de libertad.

En segundo lugar, se examinaron las cargas estandarizadas al fin de evaluar el ajuste a los modelos congenérico y tau-equivalente. Las cargas factoriales estandarizadas correspondientes a ambos instrumentos evidencian la adecuación del modelo congenérico (tabla 3).

Tabla 3.Cargas factoriales estandarizadas de los ítems del BAI y del ERQ 

Como era de esperarse, dado que el modelo congenérico evidenció ajustarse a los datos, los valores de omega total son superiores a los de alfa. A su vez, los valores obtenidos a partir de MCP resultan adecuados en todos los casos y superiores a los obtenidos a partir de matrices de correlaciones y covarianzas de Pearson (tabla 4)

Tabla 4 Comparación de coeficientes obtenidos a partir de distintas matrices 

Nota. GLB = greatest lower bound.

Discusión

La presente investigación tuvo como objetivo proporcionar una guía para el cálculo de coeficientes ordinales de confiabilidad. Para esta finalidad, 1) se definió a la confiabilidad, se expusieron distintos coeficientes para estimarla con sus ventajas y desventajas, 2) se explicó la adecuación de su cálculo mediante MCP, 3) se mencionaron softwares gratuitos para el cálculo de coeficientes ordinales de confiabilidad, 4) se proporcionó una guía para el cálculo de coeficientes ordinales con R/Rstudio y 5) se ofreció un ejemplo que compara distintos coeficientes de confiabilidad calculados a partir de MCP, matrices de correlaciones de Pearson y matrices de covarianzas de Pearson.

En este sentido, se ha presentado al alfa como un coeficiente adecuado en situaciones donde se cumplen los supuestos de unidimensionalidad, ausencia de errores correlacionados y tau equivalencia (McNeish, 2018; Raykov, 1998; Raykov & Marcoulides, 2019; Savalei et al., 2019). A su vez, en caso de incumplirse la tau-equivalencia, el coeficiente alfa puede aproximarse a mayor límite inferior de confiabilidad (Cronbach, 1951; Trizano-Hermosilla & Alvarado, 2016; Sijtsma, 2009). Mientras que el omega total se recomienda en situaciones de unidimensionalidad, ausencia de errores correlacionados y adecuación del modelo congenérico (Domínguez-Lara, 2016; Savalei et al., 2019). El omega jerárquico resulta indicado cuando el modelo subyacente a los datos es bifactorial o con un factor de segundo orden (Flora, 2020; Revelle & Zinbarg; 2009; Trizano-Hermosilla & Alvarado, 2016). El coeficiente H presenta la ventaja de poder calcularse inclusive en modelos multidimensionales. Sin embargo, como sucede con el alfa y el omega, su valor aumenta con la adición de reactivos (Domínguez-Lara, 2016). Asimismo, dentro de la literatura, se ha sugerido el cálculo del coeficiente GLB (McNeish, 2018; Sijtsma, 2009; Trizano-Hermosilla & Alvarado, 2016) beta (Revelle & Zinbarg, 2009) y theta (Domínguez-Lara, 2012; Elosua & Zumbo, 2008). Estos coeficientes persiguen distintos objetivos y procedimientos que el alfa y los omega y permiten obtener evidencias complementarias y relevantes de confiabilidad. En caso del coeficiente H, se lo recomienda como recurso complementario siempre que el modelo congenérico exhiba un ajuste adecuado (Domínguez-Lara, 2016).

En cuanto al cálculo de coeficientes ordinales, se informó acerca de la adecuación de su cálculo mediante MCP. En este sentido, mediante el ejemplo proporcionad,o se ha hallado que los valores obtenidos a partir del cálculo de coeficientes de matrices de correlaciones de Pearson y de covarianzas de Pearson, fueron menores a los obtenidos mediante MCP. Estos resultados pueden explicarse dado que, al contar con datos ordinales, las matrices de correlaciones de Pearson y de covarianzas de Pearson tienden a incurrir en infraestimaciones (Gadermann et al., 2012). Se resalta la adecuación de las MCP para trabajar con datos ordinales (Elosua & Zumbo, 2008; Gadermann et al., 2012; Jöreskog, 1994; Viladrich et al., 2017).

Al comparar los coeficientes ordinales calculados entre sí, puede observarse que el alfa ordinal fue menor al omega total en todos los casos. Podría explicarse por la adecuación de los datos al modelo congenérico. De manera que resulta esperable que el omega sea ligeramente más elevado que el alfa (Deng & Chang, 2017; Revelle & Zinbarg, 2009). En cuanto al omega jerárquico, su valor fue el menor de los obtenidos. Se puede explicar dado que se recomienda en modelos bifactoriales o con factores de segundo orden (Flora, 2020; Revelle & Zinbarg; 2009; Trizano-Hermosilla & Alvarado, 2016). Sin embargo, en casos de modelos que tienen una estructura establecida con varias dimensiones que no están fuertemente correlacionadas, se recomienda el cálculo del alfa o el omega total para cada una de sus dimensiones (Savalei et al., 2019). En cuanto a los GLB factorial y jerárquico, los valores obtenidos fueron similares entre sí y mayores a los de otros coeficientes. Sin embargo, es posible que los valores resulten sesgados en función del tamaño muestral (Sijtsma, 2009).

En cuanto a las limitaciones de la presente investigación, en primer lugar, debe mencionarse que el software R se encuentra en constante actualización y crecimiento. De manera tal que es posible que la guía propuesta deba sufrir modificaciones con el paso del tiempo.

En segundo lugar, la esta investigación se centra en el procedimiento para realizar el cálculo de coeficientes ordinales con R/Rstudio. De tal manera, futuras investigaciones pueden ofrecer guías basadas en otros softwares.

En tercer lugar, el tamaño muestral reducido impidió realizar comparaciones de los valores obtenidos con distinta cantidad de participantes. De esta manera, se sugiere que futuras investigaciones comparen el rendimiento de los coeficientes según tamaños muestrales.

En conclusión, la presente investigación ofrece una guía conceptual actualizada acerca de la confiabilidad y los distintos coeficientes ordinales para su estimación. Asimismo, se proporciona una guía práctica para la obtención de coeficientes de confiabilidad mediante el R/Rstudio junto con un ejemplo.

Este trabajo favorece el cálculo de coeficientes ordinales de confiabilidad mediante una herramienta gratuita de sencilla utilización, tal como es el R/Rstudio. Se espera que este manuscrito sirva a estudiantes, docentes e investigadores con la finalidad de resolver situaciones prácticas en las cuales se trabaja con la calidad psicométrica de un instrumento. Si bien, no debe descuidarse el valor teórico en la interpretación de los resultados. Puntualmente, el recurso propuesto pretende servir de guía para el inicio de investigadores o estudiantes no familiarizados con R.

Referencias

Aguirre-Urreta, M. I., Rönkkö, M., & McIntosh, C. N. (2019). A cautionary note on the finite sample behavior of maximal reliability. Psychological Methods, 24(2), 236-252. https://psycnet.apa.org/doi/10.1037/met0000176 [ Links ]

Armor, D. J. (1973). Theta reliability and factor scaling. Sociological Methodology, 5, 17-50. https://doi.org/10.2307/270831 [ Links ]

Beck, A. T., Epstein, N., Brown, G., & Steer, R. A. (1988). An inventory for measuring clinical anxiety: Psychometric properties. Journal of Consulting and Clinical Psychology, 56(6), 893-897. https://doi.org/10.1037/0022-006X.56.6.893 [ Links ]

Bernaards, C. A., & Jennrich, R. I. (2005). Gradient projection algorithms and software for arbitrary rotation criteria in factor analysis. Educational and Psychological Measurement, 65, 676-696. https://doi.org/10.1177/001316440427250 [ Links ]

Browne, M. W., & Cudeck, R. (1993). Alternative ways ofassessing model fit. En K. A. Bollen & J. S. Long (Eds.), Testing structural equation models (pp. 136-162). Sage. [ Links ]

Catalán, H. E. N. (2019). Reliability, population classification and weighting in multidimensional poverty measurement: A Monte Carlo study. Social Indicators Research, 142(3), 887-910. https://doi.org/10.1007/s11205-018-1950-z [ Links ]

Cortina, J. M. (1993). What is coefficient alpha? An examination of theory and applications. Journal of Applied Psychology, (1), 98-104. https://psycnet.apa.org/doi/10.1037/0021-9010.78.1.98 [ Links ]

Cronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika, 16(3), 297-334. https://doi.org/10.1007/BF02310555 [ Links ]

Deng, L., & Chan, W. (2017). Testing the difference between reliability coefficients alpha and omega. Educational and Psychological Measurement, 77(2), 185-203. https://doi.org/10.1177%2F0013164416658325 [ Links ]

Domínguez-Lara, S. A. (2012). Propuesta para el cálculo del Alfa Ordinal y Theta de Armor. Revista de Investigación en Psicología, 15(1), 213-217. https://revistasinvestigacion.unmsm.edu.pe/index.php/psico/article/view/3684 [ Links ]

Domínguez-Lara, S. A. (2016). Evaluación de la confiabilidad del constructo mediante el Coeficiente H: breve revisión conceptual y aplicaciones. Psychologia. Avances de la Disciplina, 10(2), 87-94. http://www.scielo.org.co/scielo.php?pid=S1900-23862016000200087&script=sci_abstract&tlng=en [ Links ]

Domínguez-Lara, S. (2018). Fiabilidad y alfa ordinal. Actas Urológicas Españolas, 42(2), 140-141. https://doi.org/10.1016/j.acuro.2017.07.002 [ Links ]

Dunn, T. J., Baguley, T., & Brunsden, V. (2014). From alpha to omega: A practical solution to the pervasive problem of internal consistency estimation. British Journal of Psychology, 105(3), 399-412. https://doi.org/10.1111/bjop.12046 [ Links ]

Elosua, P., & Zumbo, B. (2008). Coeficientes de fiabilidad para escalas de respuesta categórica ordenada. Psicothema, 20(4), 896-901. http://www.psicothema.com/pdf/3572.pdf [ Links ]

Flora, D. B. (2020). Your coefficient alpha is probably wrong, but which coefficient omega is right? A tutorial on using R to obtain better reliability estimates. Advances in Methods and Practices in Psychological Science, 3(4), 484-501. https://doi.org/10.1177%2F2515245920951747 [ Links ]

Flora, D. B., & Curran, P. J. (2004). An empirical evaluation of alternative methods of estimation for confirmatory factor analysis with ordinal data. Psychological Methods, 9(4), 466-491. https://doi.org/10.1037/1082-989X.9.4.466 [ Links ]

Fox, J., & Bouchet-Valat, M. (2019). Rcmdr: R Commander. R package version 2.5-2. https://cran.r-project.org/web/packages/Rcmdr/index.html [ Links ]

Gadermann, A. M., Guhn, M., & Zumbo, B. D. (2012). Estimating ordinal reliability for Likert-type and ordinal item response data: A conceptual, empirical, and practical guide. Practical Assessment, Research, and Evaluation, 17(1), 3. https://scholarworks.umass.edu/cgi/viewcontent.cgi?article=1247&context=pare [ Links ]

Green, S. B., & Yang, Y. (2015). Evaluation of dimensionality in the assessment of internal consistency reliability: Coefficient alpha and omega coefficients. Educational Measurement: Issues and Practice, 34(4), 14-20. [ Links ]

Gross, J. J., & John, O. P. (2003). Individual differences in two emotion regulation processes: implications for affect, relationships, and well-being. Journal of Personality and Social Psychology, 85(2), 348-362. https://doi.org/10.1037/0022-3514.85.2.348 [ Links ]

Guttman, L. (1945). A basis for analyzing test-retest reliability. Psychometrika, 10(4), 255-282. https://doi.org/10.1007/BF02288892 [ Links ]

Hair, J. F., Black, W. C., Babin, B. J., & Anderson, R. E. (2014). Multivariate data analysis (7th ed.). Pearson Education Limited Harlow. [ Links ]

Hancock, G. R., & Mueller, R. O. (2001). Rethinking construct reliability within latent variable systems. En R. Cudeck, S. du Toit, & D. Soerbom (Eds.), Structural equation modeling: Present and future-A festschrift in honor of Karl Jöreskog (pp. 195-216). Scientific Software International. [ Links ]

Jackson, P. H., & Agunwamba, C. C. (1977). Lower bounds for the reliability of the total score on a test composed of non-homogeneous items: I: Algebraic lower bounds. Psychometrika, 42(4), 567-578. https://doi.org/10.1007/BF02295979 [ Links ]

Jöreskog, K. G. (1994). On the estimation of polychoric correlations and their asymptotic covariance matrix. Psychometrika, 59(3), 381-389. https://doi.org/10.1007/BF02296131 [ Links ]

Jorgensen, T. D., Pornprasertmanit, S., Schoemann, A. M., & Rosseel, Y. (2020). semTools: Useful tools for structural equation modeling (R package Version 0.5-3). https://CRAN.R-project.org/package=semTools [ Links ]

Kelley, K., & Lai, K. (2012). MBESS: MBESS. R package version 3.3.2. http://CRAN.R-project.org/package=MBESS [ Links ]

Kline, R. B. (2011). Principles and practice of structural equation modeling. Guilford Press. [ Links ]

Lord, F. M., & Novick, M. R. (1968). Statistical theories of mental test scores. Addison Wesley. [ Links ]

Lorenzo-Seva, U., & Ferrando, P. (2020). Manual of the program FACTOR v. 10. http://psico.fcep.urv.es/ [ Links ]

Manterola, C., Quiroz, G., Salazar, P., & García, N. (2019). Metodología de los tipos y diseños de estudio más frecuentemente utilizados en investigación clínica. Revista Médica Clínica Las Condes, 30(1), 36-49. https://doi.org/10.1016/j.rmclc.2018.11.005 [ Links ]

McDonald, R. P. (1981). The dimensionality of tests and items. British Journal of mathematical and statistical Psychology, 34(1), 100-117. https://doi.org/10.1111/j.2044-8317.1981.tb00621.x [ Links ]

McDonald, R.P. (1999). Test theory: A unified treatment. Erlbaum. [ Links ]

McNeish, D. (2018). Thanks coefficient alpha, we’ll take it from here. Psychological Methods, 23(3), 412-433. https://doi.org/10.1037/met0000144 [ Links ]

Mikulic, I. M., (2007). Construcción y adaptación de pruebas psicológicas [Manuscrito inédito]. Facultad de Psicología, Universidad de Buenos Aires. [ Links ]

Moltner, A., & Revelle, W. (2015). Find the Greatest Lower Bound to Reliability. http://personality-project.org/r/psych/help/glb.algebraic.html [ Links ]

Muñiz, J. (2010). Las teorías de los tests: teoría clásica y teoría de respuesta a los ítems. Papeles del Psicólogo, 31(1), 57-66. http://papelesdelpsicologo.es/pdf/1796.pdf [ Links ]

Pagano, A. E., & Vizioli, N. A. (en prensa). Adaptación del Cuestionario de Regulación Emocional (ERQ) en población adulta de la Ciudad Autónoma de Buenos Aires y el Conurbano Bonaerense. Psicodebate. Psicología, Cultura y Sociedad. [ Links ]

R Development Core Team. (2020). R: A Language and Environment for Statistical Computing. R Foundation for Statistical Computing. http://www.R-project.org [ Links ]

Racine, J. S. (2011). RStudio: A Platform-Independent IDE for R and Sweave. Journal of Applied Econometrics, 27(1), 167-172. https://doi.org/10.1002/jae.1278 [ Links ]

Raykov, T. (1998). Coefficient alpha and composite reliability with interrelated nonhomogeneous items. Applied Psychological Measurement, 22(4), 375-385. https://doi.org/10.1177%2F014662169802200407 [ Links ]

Raykov, T. (2012). Scale development using structural equation modeling. In Hoyle, R. (Ed.), Handbook of structural equation modeling (pp. 472-492). Guilford Press. [ Links ]

Raykov, T., & Marcoulides, G. A. (2019). Thanks coefficient alpha, we still need you! Educational and psychological measurement, 79(1), 200-210. https://doi.org/10.1177%2F0013164417725127 [ Links ]

Revelle, W. (1979). Hierarchical cluster analysis and the internal structure of tests. Multivariate Behavioral Research, 14(1), 57-74. https://doi.org/10.1207/s15327906mbr1401_4 [ Links ]

Revelle, W. (2011). An overview of the psych package. https://citeseerx.ist.psu.edu/document?repid=rep1&type=pdf&doi=813c60673565b947fc406f480885e9f1d6694022 [ Links ]

Revelle, W. (2020). Package ‘psych’. https://cran.r-project.org/web/packages/psych/psych.pdf [ Links ]

Revelle, W. (2021). How To: Use the psych package for Factor Analysis and data reduction. https://www.personality-project.org/r/psych/HowTo/factor.pdf [ Links ]

Revelle, W., & Zinbarg, R. E. (2009). Coefficients alpha, beta, omega, and the glb: Comments on Sijtsma. Psychometrika, 74(1), 145-154. https://doi.org/10.1007/s11336-008-9102-z [ Links ]

Rhemtulla, M., Brosseau-Liard, P. É., & Savalei, V. (2012). When can categorical variables be treated as continuous? A comparison of robust continuous and categorical SEM estimation methods under suboptimal conditions. Psychological Methods, 17(3), 354. https://psycnet.apa.org/doi/10.1037/a0029315 [ Links ]

Rosseel, Y. (2012). lavaan: An R Package for Structural Equation Modeling. Journal of Statistical Software, 48(2), 1-36. http://www.jstatsoft.org/v48/i02/ [ Links ]

Rosseel, Y. (2020). The lavaan tutorial. https://www.lavaan.ugent.be/tutorial/tutorial.pdf [ Links ]

Savalei, V., Reise, S. P., Vazire, S., & Fried, E. (2019). Don’t Forget the Model in Your Model-based Reliability Coefficients: A Reply to McNeish (2018). Collabra: Psychology, 5(1). https://doi.org/10.1525/collabra.247 [ Links ]

Sijtsma, K. (2009). On the use, the misuse, and the very limited usefulness of Cronbach’s alpha. Psychometrika, 74(1), 107. https://dx.doi.org/10.1007%2Fs11336-008-9101-0 [ Links ]

Sijtsma, K., & van der Ark, L. A. (2015). Conceptions of reliability revisited and practical recommendations. Nursing Research, 64(2), 128-136. https://doi.org/10.1097/nnr.0000000000000077 [ Links ]

Thurstone, L. L. (1928). Attitudes can be measured. American Journal of Sociology, 33(4), 529-554. https://www.gwern.net/docs/psychology/1928-thurstone.pdf [ Links ]

Trizano-Hermosilla, I., & Alvarado, J. M. (2016). Best alternatives to Cronbach’s alpha reliability in realistic conditions: congeneric and asymmetrical measurements. Frontiers in Psychology, 7, Article 769. https://doi.org/10.3389/fpsyg.2016.00769 [ Links ]

Ventura-León, J. L. (2018). ¿Es el final del alfa de Cronbach? Adicciones, 31(1), 80-81. http://adicciones.es/index.php/adicciones/article/viewFile/1037/965 [ Links ]

Viladrich, C., Angulo-Brunet, A., & Doval, E. (2017). Un viaje alrededor de alfa y omega para estimar la fiabilidad de consistencia interna. Anales de Psicología, 33(3), 755-782. https://revistas.um.es/analesps/article/view/analesps.33.3.268401/215531 [ Links ]

Vizioli, N. A., & Pagano, A. E. (2020). Adaptación del Inventario de Ansiedad de Beck en población de Buenos Aires. Interacciones, e171-e171. https://doi.org/10.24016/2020.v6n3.171 [ Links ]

Zumbo, B. D., Gadermann, A. M., & Zeisser, C. (2007). Ordinal versions of coefficients alpha and theta for Likert rating scales. Journal of Modern Applied Statistical Methods, 6(1), 4.http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.890.6722&rep=rep1&type=pdf [ Links ]

Zumbo, B. D., & Kroc, E. (2019). A measurement is a choice and Stevens’ scales of measurement do not help make it: A response to Chalmers. Educational and Psychological Measurement, 79(6), 1184-1197. https://dx.doi.org/10.1177%2F0013164419844305 Links ]

Sobre los autores:

1Nicolás Alejandro Vizioli es magíster en Psicodiagnóstico y Evaluación Psicológica. Se desempeña como docente e investigador formado UBACyT en la Universidad de Buenos Aires.

2Alejandro Emilio Pagano es magíster en Psicodiagnóstico y Evaluación Psicológica, docente e investigador UBACyT en la Universidad de Buenos Aires.

Recibido: 16 de Abril de 2021; Revisado: 09 de Noviembre de 2022; Aprobado: 14 de Noviembre de 2022

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons