Evaluación de usabilidad a través del seguidor ocular, EUS y CSUQ en plataforma educativa
Evaluation of usability with eye tracking, SUS and CSUQ in educational platform
Avaliação de usabilidade através do rastreador de olho, EUS e CSUQ em plataforma educacional
María Isolde Hedlefs Aguilar
Facultad de Ingeniería Mecánica y Eléctrica, Universidad Autónoma de Nuevo León, México
lab.cognitive@gmail.com
Resumen
Se evaluó la usabilidad de una plataforma educativa (NEXUS, www.nexus.uanl.mx/) por medio de la Escala de Usabilidad del Sistema (EUS), el Cuestionario de Usabilidad de Sistemas informáticos (CSUQ) y el seguidor ocular. La muestra se conformó de 29 participantes con una media de edad de 22.5 años. Primero se aplicó el estudio con el seguidor ocular, este consistió en buscar la actividad en la plataforma NEXUS que se le indico al principio; cuando localizaba la tarea, el participante tenía que cargar el archivo a la plataforma NEXUS que previamente se le había informado donde estaba localizado el archivo en la computadora y, por último, tenía que cerrar su sesión de la plataforma NEXUS; terminando con el seguidor ocular se le aplicó el EUS y el CSUQ en línea por medio de la plataforma Google Forms. Se obtuvo en el CSUQ un puntaje de 5, donde los participantes se encontraron algo satisfechos con la plataforma NEXUS, mientras que en el EUS se obtuvo un puntaje de 65.51, lo cual significa que la plataforma NEXUS no cuenta con un nivel adecuado de usabilidad. Por último, en el seguidor ocular, a través de los mapas de zonas ciegas, se pudo observar detalladamente como los participantes van directo a lo que necesitan y no ven el resto de la interfaz a menos que no encuentren la manera de llevar a cabo la actividad, también por medio del seguidor ocular se pudo observar que 16 de los 29 participantes tuvieron problemas con localizar la actividad y 6 de los 29 participantes no localizaron el icono correcto para cerrar sesión de la plataforma NEXUS. Se concluye que es mejor utilizar el seguidor ocular en conjunto con los cuestionarios para evaluar la usabilidad de una interfaz, con la finalidad de obtener mayor información de cómo el usuario interactúa con la interfaz y, por lo tanto, poder realizar análisis más detallado y tratar de entender por qué el participante dio esos puntajes en los cuestionarios de usabilidad a la interfaz.
Palabras claves: CSUQ, EUS, plataforma educativa, seguidor ocular, usabilidad.
Abstract
The usability of an educational platform (NEXUS www.nexus.uanl.mx/) was evaluated through System Usability Scale (EUS), the Computer Systems Usability Questionnaire (CSUQ) and an eye tracking. The sample was conformed of 29 participants with an average of age of 22.5 years. First, the study moved along with the eye tracking, which was consisting of looking for the activity where they had to upload a file to his NEXUS's account; then, the eye tracking follower was applied SUS and CSUQ online through the Google Forms platform. A score of 5 was obtained in the CSUQ, where the participants found something satisfied with NEXUS platform, while in the EUS was obtained a score of 65.51, which means that the NEXUS platform does not have an adequate level of usability. Finally, in the eye tracker through maps of blind zones, is observed in detail how the participants will direct what they need and they do not see the rest of the interface unless they are not the way to carry out the activity; also, through of the eye tracker noted that 16 of the 29 participants had problems with locating activity, and 6 of the 29 participants not located the correct icon to log out of the NEXUS platform. It is concluded that it is better to use the eye tracking in conjunction with the questionnaires to evaluate the usability of an interface to obtain more information on how the user interacts with the interface and, therefore, be able to perform a more detailed analysis of the interface and to know why those scores in the usability questionnaires were obtained.
Keywords: CSUQ, SUS, educational platform, eye tracking, usability.
Resumo
A usabilidade de uma plataforma educacional (NEXUS, www.nexus.uanl.mx/) foi avaliada através da Escala de Usabilidade do Sistema (EUS), do Questionário de Usabilidade de Sistemas de Computador (CSUQ) e do seguidor de olho. A amostra consistiu de 29 participantes com idade média de 22,5 anos. Primeiro, o estudo foi aplicado com o seguidor do olho, isto consistiu em procurar a atividade na plataforma NEXUS que foi indicada no início; Ao localizar a tarefa, o participante teve que carregar o arquivo para a plataforma NEXUS que já havia sido informado onde o arquivo estava localizado no computador e, finalmente, teve que fechar a sessão da plataforma NEXUS; terminando com o seguidor do olho, o EUS e o CSUQ foram aplicados on-line através da plataforma Google Forms. Uma pontuação de 5 foi obtida no CSUQ, onde os participantes ficaram um pouco satisfeitos com a plataforma NEXUS, enquanto que no EUS obteve uma pontuação de 65,51, o que significa que a plataforma NEXUS não possui um nível adequado de usabilidade. Finalmente, no rastreador de olho, através dos mapas de áreas cegas, foi possível observar em detalhes como os participantes vão diretamente ao que eles precisam e não vêem o resto da interface a menos que não consigam encontrar uma maneira de realizar o atividade, também através do rastreador de olho observou-se que 16 dos 29 participantes tiveram problemas para localizar a atividade e 6 dos 29 participantes não encontraram o ícone correto para fechar a sessão da plataforma NEXUS. Conclui-se que é melhor usar o seguidor do olho em conjunto com os questionários para avaliar a usabilidade de uma interface, a fim de obter mais informações sobre como o usuário interage com a interface e, portanto, ser capaz de realizar análises e tratamentos mais detalhados para entender por que o participante deu esses escores nos questionários de usabilidade da interface.
Palavras-chave: CSUQ, EUS, plataforma educacional, seguidor de olho, usabilidade.
Fecha Recepción: Noviembre 2016 Fecha Aceptación: Junio 2017
Introducción
La mayoría de los diseños de las interfaces están basados en el usuario con el objetivo de que estas tengan una buena usabilidad, ya que esto será lo que ayude o complique alcanzar los objetivos que persiguen la interfaz; por ejemplo, encontrar alguna información que necesite comunicarse con otras personas, aprender alguna materia, etc. (Hassan, Martín y Iazza, 2004).
La International Organization for Standardization (ISO) define la usabilidad como el “grado de eficacia, eficiencia y satisfacción con la que los usuarios específicos pueden lograr objetivos específicos, en contextos de uso específicos” (ISO, 1998). La usabilidad en cada interfaz puede medirse dependiendo de los objetivos que se necesiten cumplir con su uso y con el usuario que haga uso de la interfaz.
Existen diferentes métodos para evaluar la usabilidad, uno de ellos son los cuestionarios y escalas. Una de las primeras escalas que se utilizaron para evaluar la usabilidad sin que el usuario estuviera realizando pruebas de laboratorio fue la de Brooke en 1986 (Brooke, 1996), titulada Escala de Usabilidad del Sistema (SUS; en inglés, System Usability Scale, EUS). De esta escala se han reportado datos de confiabilidad (Lucey, 1991, en Kirakowki, 1994; Bangor, Kortum y Miller, 2008; Lewis y Sauro, 2009) en donde los coeficientes de Alpha oscilan entre .85 a .92. Se tienen datos en población latina en donde se encontró un coeficiente de Alpha de .92 (Hedlefs y Garza, 2016). Otro instrumento que es útil para evaluar la usabilidad de una interfaz sin que el usuario realice alguna tarea o actividad con la interfaz y solo se requiere que el usuario la haya utilizado es el Computer System Usability Questionnaire (CSUQ). En su idioma original se reportó una consistencia interna de .95 (Sauro y Lewis, 2012) y en población latina de .97 (Hedlefs, de la Garza, Sánchez y Garza, 2015).
Tanto el EUS como el CSUQ presentan diferentes estructuras factoriales. El EUS cuenta con dos factores, los cuales son usabilidad y facilidad de aprendizaje (Lewis y Sauro, 2009); mientras que en el CSUQ se encuentran tres factores: calidad del sistema, calidad de la información y calidad de la interfaz (Sauro y Lewis, 2012). Estos mismos factores del EUS y CSUQ se encontraron en la población latina (Hedlefs y Garza, 2016; Hedlefs, de la Garza, Sánchez y Garza, 2015).
Otro de los métodos de evaluación de usabilidad que está teniendo mucho auge en el área de Interacción Humano Computadora es el seguidor ocular, aunque este ha sido utilizado desde hace más de 100 años en distintas áreas, por ejemplo, en psicología (Shiessl, Duda, Thölke y Fisher, 2003; Poole y Ball, 2005), neuropsicología (Duchowski, 2007; Cipresso et al., 2012), mercadotecnia (Reutskaja, Nagel, Camerer y Rangel, 2011; Duchowski, 2007); y su uso es relativamente reciente en el área de usabilidad.
En 1949, Fitts, Jones y Milton utilizaron el seguidor ocular con el objetivo de estudiar el movimiento que realizaban los ojos de los pilotos sobre el tablero de control del avión, registrando cuánto tiempo observaban cada instrumento durante las maniobras y cuántas veces observaban el tablero de control. Este fue conocido como el primer caso de aplicación del seguimiento ocular en ingeniería de usabilidad.
En la actualidad, el uso del seguidor ocular en el área de Interacción Humano Computadora (IHC), se enfoca más hacia el estudio de la usabilidad en las interfaces y como un dispositivo de entrada (Pernice y Nielsen, 2009), lo cual no es muy conveniente, ya que si lo utilizáramos como dispositivo de entrada, podríamos fijar la mirada en algún objeto o parpadear si queremos seleccionarlo; sin embargo, algunos movimientos de los ojos son inconscientes e involuntarios, por lo que sería necesario agregar un dispositivo de comandos de voz o algún instrumento que complemente al seguidor ocular para poder trabajar correctamente (Jacob y Karn, 2003). Por lo que Pernice y Nielsen (2009) mencionan que el seguidor ocular sea utilizado como una herramienta más para la evaluación de usabilidad y que se utilice en conjunto con otro método de evaluación. Por lo cual, en nuestra investigación, se evaluó la usabilidad de una plataforma educativa (NEXUS, www.nexus.uanl.mx/) por medio del seguidor ocular y de cuestionarios de usabilidad, que fueron el Cuestionario de Usabilidad de Sistemas informáticos (CSUQ) y la Escala de Usabilidad del Sistema (EUS).
Método
Participantes
La muestra es de conveniencia; estuvo constituida por 29 estudiantes de octavo semestre de la carrera Ingeniero Administrador de Sistemas de la Facultad de Ingeniería de una universidad pública. La media de edad fue de 22.5 años; fueron 18 hombres y 11 mujeres.
Originalmente, la muestra estuvo conformada de 30 participantes, sin embargo, los datos de uno de ellos tuvieron que ser descartados, ya que durante su aplicación con el seguidor ocular hubo fallas con el servicio de Internet y no se consideró para el análisis global.
Instrumentos
Se utilizó el seguidor ocular Gaze Point GP3 y el software de análisis Gaze Point Analysis Pro. La interfaz analizada fue www.nexus.uanl.mx, la cual fue presentada a los participantes a través de un monitor de 19.5 pulgadas que contaba con su mouse y teclado independiente. El teclado, el mouse y el monitor que usaban los participantes estaban conectados a una laptop, la cual nos sirvió para controlar y registrar los datos del seguidor ocular.
Se aplicó la versión estandarizada de la Escala de Usabilidad del Sistema (EUS) que presenta un coeficiente de Alpha de Cronbach de .92 (Hedlefs y Garza, 2016), que utilizó una escala Likert de 5 niveles de respuesta, que iban de totalmente en desacuerdo (1) a totalmente de acuerdo (5). Por último, se utilizó la versión estandarizada del Cuestionario de Usabilidad de Sistemas Informáticos (CSUQ) con un coeficiente de Alpha de Cronbach de .97 (Hedlefs, de la Garza, Sánchez y Garza, 2015); se usó una escala Likert de 7 niveles de respuesta, donde iban de totalmente en desacuerdo (1) a totalmente de acuerdo (7). Estos se realizaron en línea en la plataforma Google Forms por lo que los usuarios respondieron en una computadora portátil MacBook Air con una pantalla de 11 pulgadas.
Procedimiento
A los estudiantes se les invitó a participar de manera voluntaria por medio de un grupo de Facebook y durante las clases de interfaces computacionales. Lo primero que se hacía era entregarles un consentimiento informado, en el cual se les explicaba en qué consistía la prueba y que sus datos personales serían tratados de forma confidencial. Después se procedió a la aplicación del estudio con el seguidor ocular, primero a todos los participantes se les calibró el seguidor ocular con nueve puntos y después se procedió a realizar la tarea asignada. La tarea consistía en que el participante debía acceder a su cuenta de NEXUS (www.nexus.uanl.mx), buscar donde estaba la actividad para poder cargar el archivo a NEXUS que anteriormente se le había mencionado donde estaba localizado en la computadora y, por último, tenía que cerrar la sesión. Terminando el estudio con el seguidor ocular, se procedió a responder los cuestionarios, primero fue el EUS y después el CSUQ con los que se evaluó el uso de la plataforma NEXUS. Estos cuestionarios se respondieron en otra computadora donde no estaba instalado el seguidor ocular.
Resultados
En el CSUQ se obtuvo un coeficiente de Alpha de Cronbach de .94. El promedio resultante de los 29 usuarios fue de 4.56, que si redondeamos a 5 veremos que se encuentran algo satisfecho con la interfaz NEXUS. Este cuestionario presenta un nivel mínimo de 1 y un nivel máximo de 7, donde el 1 representa totalmente en desacuerdo y el 7 totalmente de acuerdo. En la Tabla 1 se desglosa los niveles de respuesta.
Tabla 1. Niveles de respuesta del CSUQ.
Niveles de respuesta |
|
1 |
Totalmente en desacuerdo |
2 |
Muy en desacuerdo |
3 |
Algo en desacuerdo |
4 |
Ni desacuerdo ni en desacuerdo |
5 |
Algo de acuerdo |
6 |
Muy de acuerdo |
7 |
Totalmente de acuerdo |
Fuente: elaboración propia.
Se puede observar que en los participantes a los cuales se les aplicó el cuestionario estuvieron algo de acuerdo con la satisfacción general hacia la plataforma NEXUS. Después se procedió a obtener el promedio por cada factor. Esta tiene tres factores, donde el factor uno es Calidad de la Interfaz, el factor dos es Calidad de la Información y el factor tres es Calidad del Sistema.
En la Figura 1 se ven los promedios por cada factor, donde se puede observar que los 29 participantes estaban algo de acuerdo con respecto a la calidad del sistema de la interfaz NEXUS y se mostraron ni de acuerdo ni en desacuerdo en la calidad de la interfaz y la calidad de la información de la misma.
Figura 1. Promedio de cada factor del CSUQ.
Fuente: elaboración propia.
En la EUS se obtuvo un Coeficiente de Alpha de .86, por lo cual es muy bueno. Después se procedió a sacar el puntaje promedio de la escala, el cual fue de 65.51 (el rango del puntaje va de 0 a 100), lo cual significa que la plataforma NEXUS no cuenta con un nivel adecuado de usabilidad. De acuerdo con la percepción de los participantes de la EUS el factor uno, están en desacuerdo con que la interfaz presenta usabilidad. En el factor dos se obtuvo una calificación de 3.25, lo que significa que los participantes no están de acuerdo con que la interfaz es de fácil aprendizaje, pero tampoco están en desacuerdo con esto. Esto se puede entender que para el participante no es tan difícil de utilizar la plataforma NEXUS, pero tampoco la plataforma es sencilla de interactuar (ver Figura 2).
Figura 2. Promedio de cada factor del EUS.
Fuente: elaboración propia.
Se realizó un análisis de correlación de Pearson de las dos escalas dando como resultado 0.816, que es fuerte y presenta un nivel de significancia de 0.01, lo cual nos dice que las dos escalas (EUS y CSUQ) se encuentran relacionadas en entre sí, es decir, las dos escalas están evaluando usabilidad, por lo cual muestran una validez convergente entre ellas.
Por medio del seguidor ocular pudimos observar que era lo que observaban los participantes y en qué partes de la interfaz (NEXUS) no fijaron sus ojos. Por ejemplo, la mayoría de los participantes no fijaban la mirada en el anuncio que aparece junto a los campos de usuario y contraseña, lo que significa que no le prestan atención a ese punto. Otro punto importante a destacar es que se pudo observar fue que tampoco leen la información que aparece debajo de los campos de usuario y contraseña (ver Figura 3).
Figura 3. Mapa de calor de los 22 participantes que accedieron a NEXUS desde la plataforma.
Fuente: captura de pantalla realizada por el autor.
Gracias a la revisión del mapa de zonas ciegas (ver Figura 4) realizado a partir de la información de 22 participantes (total de participantes que pudieron acceder a través de www.nexus.uanl.mx, los cuales son del 1 al 22 de la Tabla 2), se pudo observar detalladamente cómo los participantes van directo a lo que necesitan, es decir, no leen información extra ni tampoco se ponen a ver el resto de la página a menos que no encuentren la manera de llevar a cabo la tarea.
Figura 4. Mapa zonas ciegas realizado con los datos de los 22 participantes que accedieron a NEXUS desde la plataforma.
Fuente: captura de pantalla realizada por el autor.
Cuando los 29 participantes estaban en su cuenta de NEXUS, ninguno de ellos tuvieron problemas para localizar el curso en el que debían entrar, puesto que esta página es muy sencilla y solo muestra la información que es completamente necesaria, que en este caso fue entrar a la materia de interfaces computacionales. Después de seleccionar la materia, existen dos maneras de acceder a la tarea: una por medio del calendario y otra por los capítulos que aparecen en la página principal de cada curso. Sin embargo, la mayoría se mostró confundido al momento de buscar la actividad y no sabían dónde esta se encontraba (16 de los 29 participantes tuvieron problema con este punto). Más de la mitad de los participantes dudaron cuando debían entrar a la actividad especificada al principio e, incluso, algunos dieron clic en lugares que no eran; por ejemplo, en el lado derecho de la interfaz en donde se encuentra un pequeño menú que muestra algunas opciones como foros, chat, email, etc.
Cuando los participantes accedieron a la tarea asignada en la plataforma NEXUS, ellos encontraban rápidamente el lugar en el que debían dar clic para poder cargar el archivo a la plataforma. Cuando este se estaba cargando, 21 de 29 participantes se quedaba viendo fijamente el pequeño círculo que dice “cargando”. Finalmente, cuando terminaba de cargarse, 17 de ellos verificaron que el archivo de la tarea se subió correctamente para después cerrar la sesión.
Al momento de cerrar la sesión de la plataforma NEXUS, seis de los 29 participantes dieron clic en el lugar equivocado, ya que junto al ícono de salida se encuentra un botón en el que viene el nombre del alumno y una flecha indicando hacia abajo, y con esto se despliega un menú en donde los participantes buscaban la forma de cerrar sesión.
Al realizar el comparativo de los cuestionarios (EUS y CSUQ) versus la técnica de seguimiento ocular, se pudo observar que algunos de los participantes reportaron que la interfaz tiene buena usabilidad; sin embargo, al examinar sus diagramas de visión individual, se pudo percibir que tuvieron problemas al momento de buscar la tarea que debían realizar, lo cual provocó que se perdiera tiempo y se estuviera navegando por la interfaz en zonas a las que no era necesario darles clic (participantes 4, 9, 10, 15, 17, 19 y 26 ver Tabla 2).
Ocho de los 29 participantes (7, 8, 12, 13, 17, 19, 21 y 23 ver Tabla 2), reportaron en los cuestionarios (CSUQ y EUS) que la interfaz no tenía buena usabilidad; sin embargo, analizando sus diagramas de visión individual, se pudo observar que fueron los mismos que tardaron el menor tiempo en realizar la tarea (EUS contra tiempo con el seguidor ocular). Por lo tanto, para estos ochos participantes que realizaron la actividad y lo hicieron en el menor tiempo posible la interfaz no tuvo buena usabilidad, ya que no se sintieron satisfechos con la plataforma y esto fue lo que hizo que estos participantes puntuaran en los cuestionarios que la plataforma educativa no tenía buena usabilidad.
También se pudo observar en la tabla 2 que el participante número 23 (en negritas), quién accede a la plataforma por medio del SIASE (http://www.uanl.mx/enlinea) fue quien calificó de la peor manera la plataforma NEXUS, no solo en usabilidad, sino también en cuanto la satisfacción. Sin embargo, la cantidad de fijaciones totales y el tiempo que le tomó para llevar a cabo la tarea y cumplir el objetivo es bajo; por lo tanto, esto muestra que aprender a utilizar la plataforma para poder llegar a hacer las cosas con rapidez no significa que presente buena usabilidad.
Otro aspecto a notar fue que el participante número 29 (en negritas), quién no accedió a la plataforma directamente (http://www.uanl.mx/enlinea), fue quien calificó con las mejores puntuaciones tanto en usabilidad como en satisfacción a la interfaz NEXUS. Revisando las notas realizadas a este participante durante la aplicación del seguidor ocular, se observó que se tuvo problemas con el internet durante un momento, pero esto no afectó en la percepción del participante con respecto a la plataforma NEXUS.
Tabla 2. Muestra la comparación de los resultados obtenidos mediante el tiempo usando NEXUS (años y meses), los cuestionarios CSUQ y EUS, el tiempo que le tomó a cada participante realizar la tarea con el seguidor ocular (segundos) y el número de fijaciones que dieron durante el estudio. Los participantes 1 al 22 accedieron por www.nexus.uanl.mx y los participantes 23 al 29 accedieron por www.uanl.mx/enlinea.
Participante |
Tiempo usando NEXUS |
Promedio CSUQ |
Promedio EUS |
Tiempo con el seguidor ocular (segundos) |
Cantidad de fijaciones |
1 |
4.11 |
4.6 |
77.5 |
72.1 |
178 |
2 |
3.6 |
5.46 |
80 |
53.5 |
109 |
3 |
5.6 |
5.76 |
82.5 |
48.5 |
98 |
4 |
3.6 |
5.23 |
72.5 |
54.6 |
128 |
5 |
3.6 |
5.61 |
82.5 |
50.7 |
95 |
6 |
4.3 |
5.30 |
80 |
85.3 |
178 |
7 |
3.2 |
3.30 |
55 |
71.5 |
125 |
8 |
4.2 |
4.15 |
50 |
72.6 |
162 |
9 |
3.6 |
5.23 |
57.5 |
102.8 |
219 |
10 |
4.6 |
5 |
70 |
97.6 |
213 |
11 |
4.1 |
5.61 |
70 |
68.9 |
148 |
12 |
3.6 |
5.23 |
67.5 |
67.4 |
163 |
13 |
2.4 |
4.38 |
67.5 |
53.5 |
93 |
14 |
4.6 |
5 |
72.5 |
72.5 |
154 |
15 |
3.0 |
5 |
82.5 |
84.0 |
206 |
16 |
4.4 |
3.46 |
52.5 |
96.6 |
162 |
17 |
4.2 |
5 |
62.5 |
57.0 |
136 |
18 |
5.5 |
2.69 |
47.5 |
86.3 |
164 |
19 |
3.6 |
5.07 |
67.5 |
65.2 |
127 |
20 |
4.5 |
5.69 |
75 |
51.1 |
106 |
21 |
4.0 |
3.69 |
52.5 |
56.2 |
127 |
22 |
7.7 |
5.15 |
77.5 |
69.7 |
172 |
23 |
4.1 |
2.15 |
15 |
62.7 |
136 |
24 |
3.1 |
3 |
35 |
107.5 |
242 |
25 |
3.6 |
4.84 |
75 |
83.6 |
169 |
26 |
6.8 |
4.07 |
57.5 |
85.0 |
201 |
27 |
2.6 |
3.61 |
67.5 |
109.4 |
232 |
28 |
3.4 |
2.76 |
65 |
99.0 |
245 |
29 |
3.2 |
6.23 |
82.5 |
90.0 |
193 |
Fuente: elaboración propia.
Discusión y conclusiones
Los 29 participantes que formaron parte del estudio y a quienes se les aplicaron los cuestionarios (CSUQ y EUS) reportaron que la interfaz NEXUS no presenta usabilidad y esto lo pudimos comprobar con la técnica del seguimiento ocular. Esto está en el mismo sentido a lo que Pernice y Nielsen (2009) mencionan, que cualquier método de evaluación que se utilice va a ayudar a detectar los problemas básicos de usabilidad que tuviera la interfaz.
Los participantes se mostraron confundidos al momento de localizar la tarea, cuando esto no debería suceder, ya que los 29 participantes tienen mínimo dos años con cuatro meses interactuando con la plataforma. Algunos participantes buscaron la tarea en la lateral derecha de la página, ya que ahí se encuentran algunas opciones que también están en el menú principal (ver Figura 5). El hecho de que los participantes realicen tantas veces lo mismo puede ocasionar que se confundan y pierdan tiempo, por lo que la plataforma NEXUS se vea saturada. Por lo tanto, se demostró que esto es un error de usabilidad, ya que los participantes tardaron mucho tiempo en poder cumplir la tarea y esto no debió de haber sucedido, ya que los participantes tenían experiencia usando la plataforma.
Fuente: captura de pantalla realizada por el autor.
Con el uso de los puntajes Z, se seleccionó a los participantes que dieron los peores y mejores resultados en los cuestionarios (EUS y CSUQ) a la plataforma NEXUS y se realizó un análisis individual de los diagramas de visión de estos casos donde se obtuvo la siguiente información: algunos participantes evaluaron la plataforma NEXUS de manera negativa en los cuestionarios de usabilidad (CSUQ y EUS), aunque no tardaron en realizar la tarea planteada. Con otros participantes sucedió todo lo contrario: reportaron que la plataforma NEXUS presenta buena usabilidad y comentaron estar satisfechos con la plataforma, cuando en realidad tardaron más tiempo en poder cumplir la tarea, ya que no lograban localizar la tarea.
Estos resultados contradictorios destacan la necesidad de utilizar tanto pruebas de seguidor ocular en conjunto con cuestionarios, ya que estos se complementan. Esto se pudo observar en el seguidor ocular donde se pudieron examinar aspectos de la interfaz que los cuestionarios no reportaron (ver Tabla 2).
Los cuestionarios permitieron detectar cuáles participantes fueron los que obtuvieron puntuaciones más relevantes, permitiendo revisar y analizar los diagramas de visión de esos participantes y así detectar cuáles fueron los problemas que tuvieron durante la realización de la tarea.
Otro punto importante es que se puede obtener mayor información sobre la usabilidad de una interfaz si aplicamos ambas técnicas simultáneamente. Por ejemplo, el estudio de González y Velásquez (2012) en que utilizaron un seguidor ocular para analizar las preferencias de contenido de los usuarios web y encontraron que con el seguidor ocular se pueden detectar mejor los objetos importantes del sitio web para el usuario y lograr así un análisis más veraz y detallado de las preferencias de los usuarios.
Una de las limitaciones que nos topamos en el desarrollo de la investigación fue que no se utilizó algún test con el cual el usuario pudiera expresar sus pensamientos y/o emociones durante la realización del estudio ni al término de este; quizás esto nos hubiera proporcionado información complementaria para poder comprender por qué respondieron así los cuestionarios y el porqué de sus movimientos en la interfaz.
Se recomienda utilizar un test retrospectivo en conjunto con los cuestionarios y el seguidor ocular, ya que con él se podrá cuestionar al usuario sobre ciertos movimientos que realizó y también conocer en qué estaba pensaba en ese momento (Pernice y Nielsen, 2009). Incluso podría utilizarse alguna neurotecnología donde esta nos pueda indicar qué parte del cerebro se encuentra activada cuando el usuario está realizando la interacción con la interfaz (González y Velásquez, 2012). Por último, se podrían emplear medidas psicofisiológicas que nos pueda indicar el grado de estrés del participante y su posible estado de ánimo.
En conclusión, se puede mencionar que la interfaz NEXUS a través del CSUQ fue evaluada bien, mientras que por la EUS y el seguidor ocular fue evaluada con mala usabilidad; por lo tanto, se obtuvieron resultados mixtos. Podemos destacar de la presente investigación que es mejor utilizar el seguidor ocular en conjunto con los cuestionarios para evaluar la usabilidad de una interfaz y así poder obtener mayor información de cómo el participante interactúa con la interfaz, realizar análisis más detallados y entender por qué el participante dio esos puntajes en los cuestionarios de usabilidad de la interfaz.
Bibliografía
Bangor, A., Kortum, P., & Miller, J. (2008). An Empirical Evaluation of the System Usability Scale. International Journal of Human-Computer Interaction, 24, 574- 594. doi: 10.1080/10447310802205776.
Brooke, J. (1996). SUS: A Quick and Dirty Usability Scale. Usability evaluation in industry, 189(194), 4-7.
Cipresso, P., Meriggi, P., Carelli, L., Solca, F., Poletti, B., Lulé, D., Riva, G. (2012). Brain computer interface and eye tracking for neuropsychological assessment of executive functions: a pilot study. En Proceedings of the 2nd International Workshop on Computing Paradigms for Mental Health, MindCare 2012, in Conjunction with BIOSTEC 2012 (pp. 79-88). Recuperado de https://s3.amazonaws.com/academia.edu.documents/30737038/MindCare_2012_-_152_4x228_6.pdf?AWSAccessKeyId=AKIAIWOWYYGZ2Y53UL3A&Expires=1505241962&Signature=OvGohWyGnjpn7XlpCQFUmIsUIuw%3D&response-content-disposition=inline%3B%20filename%3DManaging_Data_in_Help4Mood.pdf#page=87
Duchowski, A. (2007). Eye tracking methodology: Theory and practice. London: Springer. doi: 10.1007/978-3-319-57883-5
Fitts, P. M., Jones, R. E., & Milton, J. L. (1949). Eye Fixations of Aircraft Pilots. III. Frequency, Duration, and Sequence Fixations When Flying Air Force Ground- Controlled Approach System (GCA). AIR MATERIEL COMMAND WRIGHT- PATTERSON AFB OH. Recuperado de http://www.dtic.mil/get-tr-doc/pdf?AD=ADA329371
González, L., & Velásquez, J. D. (2012). Una aplicación de herramientas de eye-tracking para analizar las preferencias de contenido de los usuarios de sitios web. Revista de ingeniería de sistemas, 26(1), 95-118. Recuperado de http://www.dii.uchile.cl/~ris/RISXXVI/gonzalez.pdf
Hassan, Y., Martín, F. F. J., & Iazza, G. (2004). Diseño web centrado en el usuario: usabilidad y arquitectura de la información. Hipertext.net, (2). Recuperado de http://eprints.rclis.org/8998/1/Diseño_Web_Centrado_en_el_Usuario_Usabilidad_y_Arquitectura_de_la_Información.pdf
Hedlefs, A. M. I., de la Garza, G. A., Sánchez, M. M. P., & Garza, V. A. A. (2015). Adaptación al español del Cuestionario de Usabilidad de Sistemas Informáticos CSUQ. RECI Revista Iberoamericana de las Ciencias Computacionales e Informática, 4(8). Recuperado de https://www.reci.org.mx/index.php/reci/article/view/35/120
Hedlefs, A. M. I., & Garza, V. A. A. (2016) Análisis comparativo de la Escala de Usabilidad del Sistema (EUS) en dos versiones. RECI Revista Iberoamericana de las Ciencias Computacionales e Informática, 5(10). Recuperado de https://www.reci.org.mx/index.php/reci/article/view/48/215
ISO 9241-11 (1998). Ergonomic requirements for office work with visual display terminals (VDTs)–Part 11: Guidance on usability. International Organization for Standardization. Recuperado de https://www.iso.org/obp/ui/#iso:std:iso:9241:-11:ed-1:v1:en
Jacob, R. J., & Karn, K. S. (2003). Eye tracking in human-computer interaction and usability research: Ready to deliver the promises. Mind, 2(3), 573-605. Recuperado de https://pdfs.semanticscholar.org/5f1f/69d3f8807a5abc490955823ecfec55b15bb9.pdf
Kirakowski, J. (1994). The use of questionnaire methods for usability assessment. Unpublished manuscript. Recuperado el 12 de abril de 2016, de http://sumi.ucc.ie/sumipapp.html
Lewis, J., & Sauro, J. R. (2009). The Factor Structure of the System Usability Scale. En M. Kurosu (Ed.) Human Centered Design, (pp 94-103). doi: 10.1007/978-3-642-02806-9_12
Pernice, K., & Nielsen, J. (2009). How to conduct eyetracking studies. Fremont, CA: Nielsen Norman Group. Recuperado de https://media.nngroup.com/media/reports/free/How_to_Conduct_Eyetracking_Studies.pdf
Poole, A., & Ball, L. J. (2005). Eye tracking in human-computer interaction and usability research: Current status and future. En C. Ghaoui (Ed.): Encyclopedia of Human-Computer Interaction (pp. 211-219) Pennsylvania: Idea Group, Inc.
Reutskaja, E., Nagel, R., Camerer, C. F., & Rangel, A. (2011). Search dynamics in consumer choice under time pressure: An eye- tracking study. The American Economic Review, 101(2), 900-926. Recuperado de http://www.rnl.caltech.edu/publications/pdf/reutskaja2011.pdf
Sauro, J., & Lewis, J. R. (2012). Quantifying the user experience: Practical statistics for user research. Elsevier, USA. doi:10.1016/B978-0-12-384968-7.00001-1.
Schiessl, M., Duda, S., Thölke, A., & Fischer, R. (2003). Eye tracking and its application in usability and media research. MMI-interaktiv Journal, 6, 1-10. Recuperado de https://pdfs.semanticscholar.org/ecc2/e7752ca4ab5da2bd9078055cf0f02b355f14.pdf