Espacios. Vol. 37 (Nº 17) Año 2016. Pág. 6

Avaliação de usabilidade do portal da transparência do Brasil

Usability Assessment of Brazilian Transparency Portal

Ivânia Ramos dos SANTOS 1; Dalila G. Pagnoncelli LAPERUTA 2; Roger Poglia da LUZ 3; Sérgio Luiz Ribas PESSA 4; Fernando José Avancini SCHENATTO 5

Recibido: 22/02/16 • Aprobado: 23/03/2016


Conteúdo

1. Introdução

2 Metodologia de pesquisa

3 Referencial teórico

4 Análise e discussão dos resultados

5 Considerações finais

Referências


RESUMO:

Para o desenvolvimento de um software de qualidade é fundamental alinhá-lo às características físicas, cognitivas e culturais de seus usuários, adequação que se torna mais complexa em portais governamentais, cujos usuários possuem diferentes característi-cas. Este trabalho apresenta uma avaliação ergonômica associada à usabilidade, baseada nos 18 critérios de Scapin e Bastien, do Portal da Transparência do Brasil. Encontrou-se 66% de conformi-dade geral, 16% de adequação parcial e 18% de desconformidades, cujos resultados foram analisados sob as recomendações da NBR ISO 9241-151:2011. A partir dessa análise, sugeriu-se mudanças a fim de melhorar a apresentação, navegação, leitura e compreensão das informações disponibilizadas.
Palavras-chave: Ergonomia, Avaliação de software, Usabilidade, Heurística.

ABSTRACT:

For the development of a quality software is essential align it to physical, cognitive and cultural aspects of its members, ade-quacy that becomes more complex in government portals, whose us-ers have different characteristics. This paper presents an ergo-nomic assessment associated with usability, based on 18 Scapin's and Bastien criteria, applied in Brazilian Transparency Portal. It was found 66% of overall compliance, 16% partial adequacy and 18% of nonconformities, whose results were analyzed on the rec-ommendations of ISO 9241-151: 2011. From this analysis, it has been suggested changes to improve the presentation, navigation, reading and understanding of the information provided.
Keywords: Ergonomics, Software Evaluation, Usability, Heuristic.

1. Introdução

As instituições públicas, atualmente, buscam apresentar alternativas de transparência em relação a seus processos, por exigência da população e também da legislação, oportunizando a consulta a dados relevantes. Uma das leis que se destacam no cenário nacional, considerada inovadora, por estar relacionada a ambientes virtuais, é a Lei Complementar 131 (LC 131), de 27 de maio de 2009, que alterou a redação da Lei Complementar 101, denominada Lei de Responsabilidade Fiscal (LRF), que busca o controle de gastos da União, estados, Distrito Federal e municípios. A LC 131 exige a transparência da gestão fiscal, inovando ao determinar a disponibilização, em tempo real, de informações orçamentárias e financeiras (PORTAL DA TRANSPARÊNCIA, 2015).

Todos os órgãos públicos, segundo a lei LC 131, devem disponibilizar em um portal (Portal da Transparência), detalhes de despesas (atos vinculados a despesas, número do correspondente processo, podendo ser relacionados ao bem fornecido ou ao serviço prestado, à pessoa física ou jurídica e, quando for o caso, procedimento licitatório) e receitas (recebimento de toda a receita das unidades gestoras, inclusive referente a recursos extraordinários) (PORTAL DA TRANSPARÊNCIA, 2015).

A expectativa está em a sociedade acompanhar e fiscalizar a correta aplicação dos recursos públicos, fomentando a importância de ações como essas, que contam com a participação social no combate à corrupção, pois todas as informações devem estar disponíveis para toda a sociedade, sem nenhuma restrição de acesso ou exigência de senhas (CONTROLADORIA GERAL – DF, 2015).

Os órgãos públicos ainda estão se adaptando à legislação, embora seja uma exigência. Mesmo assim, é comum perceber certa dificuldade da população no entendimento das informações e na consulta dos dados, considerados por ela relevantes, situação que aumenta o desafio de garantir que o portal seja acessível e usual a toda a população.

Diante dessas dificuldades, o trabalho proposto teve como principal objetivo avaliar a usabilidade do módulo "Consultas por Função Orçamentária" do site Portal da Transparência do Governo Federal brasileiro, acessível em www.portaltransparencia.gov.br, que tem como objetivo permitir ao usuário selecionar a função (área) ou subfunção (finalidade), associada a determinado exercício, que retornará um relatório dos recursos executados pelo governo federal, em âmbito nacional, de acordo com os filtros selecionados. A avaliação foi apoiada pelos 18 critérios ergonômicos de Scapin e Bastien (1993) onde, aplicaram-se critérios compatíveis com as funções do módulo, resultando em um laudo final que apresenta observações dos autores sobre os pontos mais relevantes da avaliação.

2. Metodologia de pesquisa

Por contribuir para geração de conhecimento, além de se basear em delimitações de base teórica, descrever um fenômeno, explorar profundamente o tema e o ambiente – o novo módulo de Consultas do Portal da Transparência – através da análise de como ele se manifesta e dos fatores com que ele se relaciona, este trabalho é classificado como descritivo-exploratório (POLIT; HUNGLER, 1995), haja visto que é fundamentado na revisão de literatura, buscando esclarecer conceitos teóricos e contribuições de pesquisas já realizadas (GIL, 2010).

A pesquisa também é caracterizada como aplicada, uma vez que procura solucionar problemas práticos (GIL, 2002), contribuindo com o conhecimento científico pois, segundo Marconi e Laka-

tos (2006), o que distingue o senso comum do conhecimento científico é a forma, o método e os instrumentos do "conhecer". 

A avaliação da qualidade ergonômica da interface do novo módulo de consulta do Portal Transparência foi fundamentada numa técnica analítica de inspeção ergonômica via checklist (SOUZA, 2003), baseado nos critérios ergonômicos de Scapin e Bastien (1993), associados à NBR ISO 9241-151.

O checklist se trata, basicamente, de uma planilha eletrônica composta por mais de cem questões, distribuídas entre os critérios ergonômicos. Utiliza-se a ferramenta para avaliação da ergonomia de interfaces homem-computador, acompanhada de um glossário para esclarecer acerca de termos técnicos. Na presente investigação, a sua aplicação foi realizada por uma equipe de três especialistas, dois da área de ergonomia de software e um da área de ergonomia e gestão pública.

Cada pergunta faz referência a uma característica específica da interface (textos, cores, disposição, conteúdo), cuja resposta é selecionada dentre quatro alternativas: sim, parcialmente, não e não se aplica.

O instrumento aplicado, chamado ErgoList, é um serviço disponibilizado via internet, composto de uma base de conhecimento em ergonomia, que inspeciona, através do checklist, interfaces homem-computador. Nesse ambiente, os especialistas avaliaram a interface usando o modelo disponibilizado pelo LabIUtil, cuja base de questões é bastante completa, cobrindo vários aspectos da usabilidade e experiência de especialistas com conhecimento em ergonomia (ERGOLIST, 2008).

Os avaliadores responderam ao checklist durante o uso/observação da interface objeto do estudo, emitindo-se um laudo com a quantidade de conformidades, conformidades parciais e não conformidades, calculando-se, na sequência, o percentual baseado no total de respostas, descontado o total de
questões não aplicáveis ao módulo.

Quanto à aplicação técnica, conforme Gil (2010), esta pesquisa representa uma observação sistemática (estruturada), pois é realizada em condições controladas, a fim de responder a propósitos pré-definidos – no caso, a avaliação ergonômica de interface web – através de instrumentos objetivos, como é o caso da lista de verificação Ergolist.

3. Referencial teórico

3.1  Portal da Transparência

O Portal da Transparência do Governo Federal, ferramenta tecnológica de transparência pública, é uma iniciativa da Controladoria-Geral da União (CGU), lançada em novembro de 2004, no intuito de assegurar a boa e correta aplicação dos recursos públicos. Tem como principal objetivo alargar a clareza da gestão pública, de maneira a permitir que o cidadão, público-alvo inicial dessa ferramenta, sem a necessidade de senhas ou de qualquer tipo de identificação, acompanhe como e onde o dinheiro está sendo utilizado, auxiliando, com base em informações, no controle das ações dos governantes e no combate à corrupção (PORTAL DA TRANSPARÊNCIA, 2015).

A respeito do contexto inicial do Portal, Freire (2014) afirma que a proposta desse instrumento frente às demais formas de divulgação das informações governamentais, apresenta como benefícios fundamentais a condensação de dados sobre projetos e ações do governo em um único local, operacionalizada através da publicação dessas informações na internet e; a acomodação dos subsídios técnicos em uma linguagem de fácil compreensão pela população.

Segundo Neves (2013), é possível perceber que o intento do Portal se expandiu, indo além da visão única sobre o dinheiro público, adotando como novo objetivo o emprego de recursos
públicos, isto é, mais a frente das informações a respeito de receitas e despesas, o website agora informa sobre imóveis funcionais, quadro de servidores, pessoas e organizações impedidas de fazerem contratos com a administração pública e outras operações, que servem como diretrizes para que os gestores apliquem eficaz, eficiente e efetivamente o dinheiro público, uma vez que, acessível  a  qualquer  pessoa, esse instrumento aparece como aliado no controle e prestação de contas, que é indispensável na eventual responsabilização daqueles que cometem irregularidades.

Essa expansão das finalidades do portal, em conjunto com a possibilidade de acesso por parte da população, vai de encontro com Castells (2003), quando alega que em vez de o governo vigiar a população, as pessoas sim poderiam estar cuidando o seu governo, zelando pela transparência e excelência na utilização dos recursos públicos, uma vez que é de fato um direito delas, haja vista que, teoricamente, o povo é soberano.

O Portal da Transparência também possui como usuários os gestores públicos, sobretudo aqueles das esferas municipal e estadual, os quais são responsáveis por implementar as políticas descentralizadas. Com a possibilidade de acompanhar cronogramas de liberações e transferências de recursos para seus Estados ou Municípios, tais gestores usufruem de uma melhor ciência acerca de tais verbas, podendo inclusive monitorar essas concessões (FREIRE, 2014).

3.1.1  O surgimento do Portal - LC 101/2000, LC 131/09 e Decreto 5.482/05

A origem do Portal da Transparência do Governo Federal remonta à Lei Complementar nº 101, de 4 de maio de 2000, conhecida como Lei de Responsabilidade Fiscal (LRF), que surgiu no intuito de impor o controle dos gastos da União, estados,
Distrito Federal e municípios, condicionado à capacidade de arrecadação de tributos desses entes políticos (PORTAL DA TRANSPARÊNCIA, 2015).

A LRF também promoveu a transparência dos gastos públicos. A lei obriga que as finanças sejam apresentadas detalhadamente aos Tribunais de Contas a que estão sujeitas. Tais órgãos podem aprovar as contas ou não e, em caso de serem rejeitadas, é instaurada investigação em relação ao Poder Executivo em questão, podendo resultar em multas ou ainda no impedimento de disputar novas eleições.

Outra lei que se destaca no cenário nacional por ser considerada inovadora e estar relacionada a ambientes virtuais, que ampara a criação do Portal da Transparência, é a Lei Complementar 131, de 27 de maio de 2009, também conhecida como Lei Capiberibe, que altera a redação da Lei de Responsabilidade Fiscal no que diz respeito à transparência da gestão fiscal, determinando a disponibilização, em tempo real, de informações pormenorizadas sobre a execução orçamentária e financeira dos organismos de todas as esferas (NAZÁRIO et al., 2010).

De acordo com a LC 131, devem ser divulgadas informações referentes às despesas: todos os atos praticados pelas unidades gestoras no decorrer da execução das despesas e; receitas: lançamento e o recebimento de todas as receitas das unidades gestoras, inclusive referente a recursos extraordinários.

Em sequência ao lançamento do Portal, no ano de 2004, realizado com um número reduzido de consultas em relação ao que é disponibilizado atualmente, foi criado o Decreto nº 5.482, em 30 de junho de 2005, que normatizou e oficializou o website. Estabeleceu também que a CGU estaria incumbida pela gestão do Portal, além da necessidade de que cada órgão
criasse a sua própria Página de Transparência, na qual seriam detalhados gastos da instituição (BRASIL, 2005).

O Portal visa ser consultado por toda a população brasileira, o que caracteriza uma diversidade de características em seus usuários, sendo imprescindível a preocupação com a usabilidade, a fim de que todos que acessarem realizem as tarefas esperadas com sucesso e sem dificuldades.

3.1.2  O módulo de consultas por função orçamentária

Em nove de dezembro de 2014, o portal da transparência disponibilizou um novo módulo de Consulta por Função Orçamentária, acessível através de sua página principal, na aba "Despesas". Segundo o manual do portal (2015), a nova consulta permite ao cidadão, ver os repasses federais por Função (Área) e Subfunção (Finalidade) (PORTAL TRANSPARÊNCIA, 2015).

Este módulo traz os valores referentes aos exercícios de 2013 em diante, tornando público nas consultas o valor total dos recursos executados pelo governo federal em âmbito nacional, além de todos os subitens (funções ou subfunções) que compõem a soma, e seus respectivos totais. O relatório possui um nível de detalhamento, onde apresenta os valores da função, se a consulta for por subfunção, e da subfunção, se a consulta for por função orçamentária.

Através da nova modalidade de pesquisa, qualquer cidadão pode ter acesso, por exemplo, ao valor gasto com a função (área) de educação no ano (exercício) de 2015, conforme Figura 1.

Figura 1 – Resultado de consulta no módulo avaliado do Portal da transparência, que retorna os valores
referentes aos gastos com educação do governo brasileiro no ano de 2015.

3.2  Usabilidade

Nos anos 80 foi dada maior ênfase a estudos de fatores humanos em layouts de softwares, sendo adotadas disciplinas específicas na ciência da computação, onde em 1988, a IEEE Computer Science e ACM (Association for Computing Machinery), incluiu como uma de suas subáreas a Interação Humano-Computador (IHC) (SIGCHI, 1992), que toma espaço e se torna preocupação de outras áreas, como a governamental, que passa a tomar ações de melhoria de design de softwares públicos, que devem ter como principal foco o uso humano e a influência do meio externo (SIGCHI, 1992).

O desafio de um sistema público está em atender diversificados usuários, que já possuem comumente frustrações diárias de rotinas automatizadas por sistemas de informações, que não refletem suas reais necessidades (PRESSMAN, 1995) e não se preocupam com a interatividade e os fatores que a influenciam.

Em 1960, Licklider inicia estudos sobre interatividade, analisando a relação Humano-Computador. A problemática da interatividade não é criar computadores produtores de respostas, mas computadores que sejam capazes de antecipar e participar na formulação de perguntas (LICKLIDER,1960) e com Clark, em 1962, cria uma lista com 10 sugestões de apoio a deficiências de interatividade, onde os cinco primeiros deveriam ser resolvidos em imediato, o sexto em um tempo intermediário e os quatro últimos em prazo mais longínquo (LICKLIDER e CLARK,1962): 1. Partilhar o tempo de utilização dos computadores entre muitos utilizadores; 2. Desenvolver processo onde entrada-saída para a comunicação seja possível através de dados simbólicos e gráficos. 3. Acontecer interações no processo em tempo real; 4. Armazenamento permita rápida recuperação de dados; 5. Facilidade na cooperação entre pessoas no design e programação; 6. Reconhecimento por parte dos computadores da voz, da escrita manual impressa e na introdução de dados; 7. Compreensão da linguagem natural, sintática e semântica; 8. Reconhecimento da voz de vários utilizadores pelo computador; 9. Descobrimento, desenvolvimento e simplificação de uma teoria de algoritmos; e 10. Programação heurística através de princípios gerais.

Essas teorias foram evoluídas e, em 1991, Hansen lança o livro "User Engineering Principies for Interactive Systems", onde é priorizado o fator de usabilidade, que defende a necessidade de preocupação em Minimizar a memorização, substituindo a entrada de dados pela seleção de itens, prevendo ações do usuário, associando a otimização de operações através da rápida execução, verificando a consistência da interface e organizando e reorganizando a estrutura da informação. Outra preocupação é em relação a erros, permitindo desfazer ações e garantindo a integridade do sistema em relação a software ou hardware (HANSEN, 1991).

Apesar de os conceitos sobre interatividade já terem sido propostos há algum tempo, percebe-se até hoje certa dificuldade com relação à implementação de sites web usáveis. A preocupação com o usuário deve ser um fator primordial de tomada de decisões na construção de interfaces eficientes e eficazes.

Um sistema de qualidade está diretamente relacionado à usabilidade, ou seja, ele deve preocupar-se com seus usuários específicos para alcançar seus objetivos (ISO 9241-11), associando suas funções à facilidade de uso (SHACKEL, 1993), diálogo entre interface e usuário (SCAPIN, 1993). Vale ressaltar que a usabilidade não está associada à singularidade, ou apenas à relação interface com usuário, mas à facilidade de aprendizado, à eficiência na utilização e recordação, ao baixo índice de erros e à satisfação na utilização (NIELSEN, 2000; PÁDUA, 2000).

Com a popularidade do mercado de websites, onde a interpretação e o uso são disponibilizados sem distinções, a usabilidade se tornou uma necessidade, que ganhou espaço e importância no mercado privado e público, sendo tão importante quanto nos sistemas computacionais (NIELSEN, 2000), mas que não deve ser uma preocupação apenas depois do software desenvolvido, pois se a usabilidade for aplicada em todo o processo de desenvolvimento, aumenta-se a possibilidade de garantia de adequação ao usuário final (BRINCK, 2002).

Nielsen e Tahir (2002) defendem a necessidade de aplicar ações que possibilitem trazer resultados e serem aplicados no processo de desenvolvimento, já Wroblewski (2002) sugere, por exemplo, a utilização de frames, identificação de links e o próprio tamanho da página, sendo fundamental abranger casos específicos da organização e suas tarefas, que segundo Krug (2001), devem ser constantemente testadas, garantindo que as páginas da internet sejam claras e autoexplicativas.

Holmes (2002) associa um site usual, a aquele que é utilizado de forma efetiva pelo usuário, porém, o desafio está em não oferecer aos usuários experiência com a usabilidade do produto apenas depois de concluído o software (NIELSEN, 2000) e sim proporcionar a ele, antes do software finalizado, saber exatamente suas funções. Memória (2006) defende a importância de entender o contexto de negócio, principalmente quando sites são reestruturados, sendo fundamental coletar de maneira correta os dados, identificando possíveis picos de visitas, as principais páginas, além da principal, que são acessadas, identificar características dos usuários e suas principais buscas, diferenças no número de visitas após redesenho e a análise da concorrência.

3.2.1  Avaliação Ergonômica da Interface

Segundo Oliveira (2012), desde os primórdios as interfaces são utilizadas, mesmo que inconscientemente, para gravar e transmitir informações, buscando facilidade e atração. Na busca de garantir a qualidade de interface e do sucesso de utilização do usuário, são várias as técnicas utilizadas para avaliação da interação homem-computador, focadas em identificar e comprovar deficiências de interfaces, sendo fundamental a aplicação a partir de critérios ergonômicos que busquem medir a usabilidade e identificar causas do problema na interface (CYBIS; BETIOL; FAUST, 2007), como apresenta os capítulos que seguem.

3.2.2  As cinco etapas da NBR ISO 9241-151

A Organização Internacional para Padronização, popularmente conhecida como ISO, é uma organização independente formada por 163 países, que formulam especificações de classe mundial para produtos, serviços e sistemas, para garantir a qualidade, segurança e eficiência. A ISO 9241-151:2008 fornece orientações sobre o design centrado no ser humano para interfaces web, com o objetivo de aumentar a usabilidade, com foco nos aspectos
de: decisões de design de alto nível e estratégia de design; design de conteúdo; navegação e de pesquisa e apresentação do conteúdo (ISO, 2015). Por ser um site do governo brasileiro, utilizou-se a norma brasileira de usabilidade web, a ABNT NBR ISO 9241-151:2011, que define usabilidade e explica como identificar a informação necessária a ser considerada na especificação ou avaliação de usabilidade de um dispositivo de interação visual em termos de medidas de desempenho e satisfação do usuário. A orientação orienta a descrição do contexto de uso do produto (hardware, software ou serviços) e as medidas relevantes de usabilidade de uma maneira explícita, em forma de princípios e técnicas gerais, em vez da forma de requisitos para usar métodos específicos. Essa regulamentação foi elaborada com foco nos desenvolvedores, fornecedores, projetistas, avaliadores e compradores de conteúdo/software, sendo idêntica, em conteúdo técnico, estrutura e redação, à ISO 9241-151:2008, cujo texto é dividido em cinco grandes áreas de recomendações (Quadro 1) para criar um software ergonômico e de qualidade. Essa norma estabelece diversas recomendações que visam garantir uma interface agradável, funcional e acessível aos diversos públicos, sendo que muitos desses aspectos também são avaliados pelos critérios ergonômicos de Scapin e Bastien. O complemento da norma em relação aos critérios é a concepção do processo de avaliação ergonômica desde o início do projeto, contribuindo para que uma interface web seja pensada, especificada e construída orientada ao usuário, aumentando a usabilidade e a ergonomia dos sistemas. Apesar de esta norma oferecer as orientações gerais para interfaces da internet, como apresentado no Quadro 1, existem diversas normas específicas que regulamentam cada componente e característica do layout, como os defendidos por Scapin e Bastien (1993), quando em 1990, Dominique Scapin realizou um estudo visando organizar os

conhecimentos sobre ergonomia de interfaces homem-computador, de modo a torná-los disponíveis a todos os interessados, visando facilitar a recuperação de conhecimento ergonômico.

Quadro 1: Fases NBR ISO 9241-151:2008. Fonte: NBR, 2015.

Área

Escopo

Recomendações

1ª Área

Decisões de Projeto de Alto Nível

- Definição de Objetivos;

- Propósito do website;

- Identificação de usuários;

- Dispositivos de acesso;

- Priorização de tarefas de desenvolvimento;

- Acessibilidade;

- Identificação de clientes;

- Metas de design.

- Objetos de conteúdo e funcionalidade, como texto ou animação, devem ser independentes em conteúdo, permitindo internacionalização e mobilidade;

- Vídeos podem ser utilizados quando necessário, com visibilidade planejada e associados à uma descrição, também permitindo controle do usuário (pausar ou parar).

- Opções de contato, feedback e políticas de privacidade devem estar disponíveis;

- Conteúdo adaptado ao usuário, recursos de personalização e observação do comportamento.

2ª Área

Projeto de Conteúdo

- Definição de estrutura de navegação, baseada no modelo mental do usuário.

- Determinar conteúdo cujo modelo seja organizado, prático e completo no seu escopo;

- Conteúdo flexível e de fácil manutenção;

- Oportunidade ao usuário de feedback a política de privacidade.

 - Deve ser possível busca e navegação, através de layout, auto descritivo, estruturado, organizado, garantindo que tarefas vão requerer esforço mínimo dos usuários;

- Considerar o comportamento de usuários;

- Dar preferência a estruturas mais largas do que profundas.

- Disponibilizar links relacionados e mapa do site.

- Mostrar link para a página principal em todas as demais páginas.

3ª Área

Navegação e Busca

- Definições de Mudança de estado de rotinas, ou seja, necessidade de alteração na informação apresentada, representa a navegação;

- Definição de Layouts orientado aos objetivos, navegação heurística ou mapeamento mental.

- A navegação em diferentes páginas, com instruções, indicações de posição, controles de "voltar" e "corrigir", e feedback de informação.

- Páginas principais com informação suficiente para compreensão do conteúdo e destaques.

- O conteúdo deve ser acessível através de mecanismos de busca simples ou avançado, disponível em todas as páginas e com tolerância a erros de digitação;

- Os resultados da busca, devem ser organizados por relevância, exibindo informações de número de resultados por página, quando necessário.

4ª Fase

Orientações sobre a apresentação do conteúdo.

- Considerar os princípios de percepção humana;

- Esquema de layout consistente.

- Minimizar rolagem vertical e evitar rolagem horizontal.

- Usar, preferencialmente, não mais do que cinco cores, mantendo contraste entre o primeiro plano e o de fundo.

- Se preocupar com acessibilidade, como, daltonismo.

- Texto compreensível.

- Utilizar técnicas apropriadas ao contexto, como, governamental, buscando apresentar uma identidade visual própria, mantida em todas as páginas, como o logotipo.

 - Espaços em branco, para preenchimento, devem conter somente cor diferenciada e tamanho adequado.

- Os links precisam ser facilmente reconhecidos pelos usuários, com rótulos objetivos, separados visualmente em quantidade, diferenciados dos botões e destacando os já acessados.

- Quando permitir o carregamento de arquivo ou execução de um comando, deve ser exibida informação diferenciada.

- Objetos de interação (caixa de seleção, radio button, checkbox) devem ser compatíveis com o tipo/tamanho/formato da informação esperada e com clara identificação.

- Textos legíveis, claros, em trechos curtos, com idioma identificado, permitindo ao usuário configurar.

5ª Área

Aspectos gerais do projeto

- Atender diversas culturas e idiomas, permitindo que as unidades de medida, temperatura, data e hora, números de telefone, endereços ou códigos postais, possam ser utilizados por uma audiência internacional.

- Informações de ajuda e sessões de perguntas frequentes são consideradas boas práticas;

- Interface tolerantes a erros, minimizando a incidência ou facilitando a correção;

- Fornecimento de mensagens claras (trazer motivos e soluções).

- Páginas devem estar de acordo com as expectativas de usuários.

- Apresentar um tempo de download aceitável;

- Funcional em diferentes navegadores.

- Ser robusto (funcionar em diferentes tecnologias e versões);

- Oferecer independência do dispositivo de entrada (teclado, voz...). - Quando objetos externos são incorporados, é importante que satisfaçam os mesmos quesitos de usabilidade e ergonomia da interface incorporada.

O conjunto de critérios atual foi definido em 1993 por Dominique Scapin e Christian Bastien e apresentada um total de oito critérios principais, sendo que alguns deles se dividem em subcritérios, que por sua vez se dividem em critérios elementares. Sendo os critérios principais: Condução, Carga de Trabalho, Controle Explícito, Adaptabilidade, Gestão de Erros, Consistência, Significado dos Códigos e Compatibilidade (ERGOLIST, 2015). Os 18 critérios elementares, aos quais estão associados os checklists do ErgoList, adotados pelos pesquisadores, são: Presteza, Agrupamento por Localização, Agrupamento por Formato, Feedback, Legibilidade, Concisão, Ações Mínimas, Densidade Informacional, Ações Explícitas, Controle do Usuário, Flexibilidade, Experiência do Usuário, Proteção contra erros, Mensagens de Erro, Consistência, Significados e Compatibilidade (ERGOLIST, 2015), como apresentados no Quadro 2.

Os critérios defendidos por Scapin e Bastien (1993) buscam facilitar a interação entre usuário e interface, reduzindo a carga de trabalho, sem impacto da adaptação e compreensão, refletindo o ambiente real dos usuários.

Quadro 2: Critérios Ergonômicos. Fonte: Elaborado a partir LabUtil (2015) e Scapin e Bastien (1993).

Critério

Subcritérios

Condução

Busca conduzir usuários iniciantes, facilitando a interação com o layout.

Presteza

Indução ao usuário em suas ações, disponibilizando informações necessárias para a execução de suas ações, sendo fundamental não haver dúvidas.

Agrupamento/distinção

Possibilitar intuitividade rápida aos usuários, organizar interface lógica e de localização, associando ao contexto real. Esse item é subdividido em Agrup/Dist por Localização e por Formato.

Feedback

Apresentar resposta imediata às ações dos usuários, com feedback instantâneo, mesmo para iniciantes, oferecendo ao usuário retornos e clara noção sobre o processo.

Legibilidade

Apresentar informações legíveis, preocupando-se com acessibilidade a um grupo de usuários específicos.

Carga de Trabalho

Redução das atividades repetitivas, interpretações redundantes.

Brevidade

Diminuir atividades que obriguem o usuário a tomar decisões que exijam elevada capacidade cognitiva e motora, ou seja, quanto menos entradas, menor será a probabilidade de erro e tempo de leitura. A intuição e o aprendizado auxiliam o usuário a diminuir a carga de trabalho. Item composto por Concisão e Ações Mínimas.

Densidade Informacional

Usuários não devem memorizar dados e rotinas complexas, sendo fornecido apenas os dados realmente relevantes e condizendo com suas rotinas reais. Consultas devem ser acessíveis, quando necessário.

Controle Explicito

Principalmente em extensa sequência de ações é fundamental o usuário ter autonomia sobre o processo. Direito do usuário em controlar o diálogo.

Ações Explicitas

O processamento do sistema deve ser resultado de ações do usuário, e o mesmo não pode ter dúvidas sobre as ações a serem realizadas.

 

Controle do Usuário

O usuário deve ter total domínio, prevendo as próximas ações do software, possibilitando a ele cancelar, retornar ou prosseguir.

Adaptabilidade

Os usuários possuem características próprias. É fundamental que o sistema satisfaça a todos. Deve-se buscar layouts que se adaptem a cada tipo de usuário.

Flexibilidade

Devem ser oferecidas várias formas de ser realizada a mesma tarefa, como, menus, teclas de atalho ou comando de voz, possibilitando ao usuário adaptar o ambiente a sua necessidade.

Experiência de Usuário

A diferença do nível de experiência do usuário, porém, o sistema deve ser usual tanto para experientes quando para inexperientes.

Gestão de Erro

Deve ser criada uma estrutura para evitar/reduzi erros, favorecendo correções rápidas.

Proteção contra erros

Identificar e prevenir entradas de dados que possam ocasionar erro, como, apresentar mensagem de confirmação de conclusão de processo, rótulo de campos, máscara na entrada de dados, permitir ao usuário a correção após um erro identificado, verificar erros de digitação, agrupar atalhos.

Qualidade em mensagens

Quando identificado erro, o usuário deve ser informado não só da inconsistência, mas quais os passos para resolvê-la.

Correções de Erros

O sistema deve oferecer aos usuários, alternativas confortáveis e ágeis de correção, assegurando a solução do problema.

Homogeneidade

Os componentes devem ser identificados pelo contexto, padronizando os objetos, por formato e nomes, por exemplo. A homogeneidade facilita o uso e impede a rejeição, também mantem a estabilidade gráfica, garantindo ao usuário ações previsíveis.

Significado dos Códigos e

Denominações

Os códigos e denominações devem respeitar a realidade dos usuários, sendo distintos dos demais códigos. As abreviações e contrações devem permitir o entendimento do usuário.

Compatibilidade

O layout deve respeitar características psicológicas do usuário e ser organizado conforme expectativas ou costumes do usuário.

Após a avaliação do módulo através do Ergolist, os resultados serão expostos e confrontados ou reforçados com as recomendações presentes na norma de ergonomia para interfaces web.

4. Análise e discussão dos resultados

A tabela 1 apresenta os resultados objetivos após a aplicação do checklist (Ergolist) pelos especialistas. No critério Condução, foram identificadas 52 conformidades, 13 conformidades parciais e 11 não-conformidades, compondo um percentual de 67% de adequação. Dentre os subcritérios, observou-se que o item mais crítico se refere ao Feedback Imediato, uma vez que não há clareza no retorno a página principal (ausência do botão voltar), mesmo sendo possível a visualização e navegação do fluxo de retorno. Tanto no carregamento de páginas, como na abertura do manual de navegação, não é oferecido o andamento e nem o status do processo de conclusão, apenas o percentual de carregamento no caso de impressões e, em nenhuma situação a mensagem de sucesso ou fracasso do processo é mostrada.

 

CRITÉRIO

% CONFORME

SUB-CRITÉRIO

Conforme

Parcial

Não conforme

CONDUÇÃO

67%

Presteza

67%

20%

13%

Agrupamento por localização

91%

9%

0%

Agrupamento por formato

56%

25%

19%

Feedback imediato

42%

8%

50%

Legibilidade

82%

18%

0%

CARGA DE TRABALHO

64%

Concisão

75%

13%

13%

Ações mínimas

50%

0%

50%

Densidade informacional

67%

33%

0%

CONTROLE EXPLÍCITO

54%

Ações explícitas

75%

25%

0%

Controle do usuário

33%

0%

67%

ADAPTABILIDADE

20%

Flexibilidade

0%

0%

100%

Experiência do usuário

20%

20%

60%

GESTÃO DE ERRO

63%

Proteção contra erro

50%

0%

50%

Mensagem de erro

75%

0%

25%

Correção de erro

N/a

N/a

N/a

HOMOGENEIDADE

71%

Consistência

71%

14%

14%

SIGNIFICADOS

50%

Significados

50%

38%

13%

COMPATIBILIDADE

91%

Compatibilidade

91%

9%

0%

PERCENTUAL DE CONFORMIDADE

66%

16%

18%

Tabela 1: Resultado do Checklist em percentual de conformidade por critério e sub-critério.

Ainda sobre Condução, quando há itens selecionados na tela principal, as caixas de seleção não apresentam realce; não há alteração do cursor durante as diferentes ações do usuário, o que dificulta a identificação da mudança de ação possível. Entre os subcritérios que se destacam por atender maior índice de conformidade estão Agrupamento por Localização e Legibilidade, visto que na avaliação não foram identificadas desconformidades.

Em relação à Carga de Trabalho, o maior índice de conformidade foi alcançado pelo subcritério Concisão, com um percentual de 75%. Já o subcritério Ações Mínimas atende somente 50% do recomendado, demonstrando carência de controles e atalhos que agilizam e facilitam a navegação pelo módulo. A avaliação, e também as boas práticas de desenvolvimento, sugerem adicionar foco no primeiro campo da tela, a fim de orientar o usuário por onde começar o procedimento. No portal, observou-se que não há foco nos campos de entrada, tendo em vista que o módulo avaliado possui subáreas de escolha do usuário, onde cada uma delas possui campos específicos (painéis) e nenhum estava com realce.

Outro ponto negativo da Carga de Trabalho pode ser observado na navegação entre campos pela sequência de tabulações, onde não há uma sequência lógica nem destaque visual em todos eles. Constatou-se também não haver um padrão entre o nome dos itens de navegação e o texto informativo exibido no canto inferior esquerdo da tela, que apresenta o ambiente de localização do usuário.

Referente às Ações Mínimas dos usuários, a estrutura de menus é reduzida em termos de níveis, conforme recomendações contidas na literatura; porém, não é adequada em termos de agrupamento, como por exemplo, o posicionamento distante entre os menus de Ajuda e Perguntas Frequentes.

Os critérios referentes a Controles Explícitos não foram aplicáveis por não haver diálogos explícitos no módulo avaliado.

No critério Adaptabilidade, em relação à flexibilidade, o sistema não oferece possibilidade de personalização das telas e diálogos, nem personaliza valores definidos por padrão (default). 

Quanto à Experiência do Usuário, o portal não considera os diferentes níveis de conhecimento do seu público-alvo – o que poderia resultar numa interface personalizada aos usuários iniciantes e outra aos mais experientes – e nem considera os diferentes perfis de usuário. Outro fator relevante é a presença excessiva de termos técnicos, o que dificulta a compreensão da interface e função por parte da população em geral.

A Proteção Contra Erros não apresentou elevados índices negativos, pois as aplicações dos critérios se deram apenas nos campos do módulo avaliado, onde não há apresentação de processos passíveis de erros, havendo apenas ações de navegação, não cabendo entrada de dados informados pelo usuário. Por isso observou-se um alto nível de conformidade, embora, não haja o detalhamento das mensagens de erros, o que dificulta ao usuário saber exatamente como resolvê-lo.

Um alto nível de conformidade também foi apresentado no critério Consistência, embora tenha sido observada carência na padronização de rótulos, onde alguns aparecem acima e outros ao lado do campo correspondente. Apesar de as telas, janelas e caixas avaliadas apresentarem títulos, algumas replicam a identificação de outras telas, não possuindo identificação única. Em relação à organização em termos da localização das variáveis, observou-se que são mantidas consistentes de uma tela para outra; porém, nota-se, que os subtotais não são evidenciados quando em referência a subgrupos.

Quanto aos Significados, foram percebidas não conformidades

nas denominações dos títulos de telas de consulta orçamentária que exibem os resultados, onde a indicação do conteúdo está presente em uma referência do total e não no título. Alguns critérios atenderam parcialmente, como no caso das denominações de menus e vocabulário de rótulos, onde, usam-se termos técnicos, não familiares aos usuários, embora adequados à área de negócio.

O critério Compatibilidade não foi aplicável a muitos dos itens propostos pela metodologia adotada, uma vez que o módulo avaliado não apresenta características compatíveis, tais como apresentações sonoras. Porém, observou-se que os significados usuais das cores não foram aplicados para informativos de erros ou outros alertas ao usuário, comumente destacados por cores.

Esses resultados, quando confrontados com a norma NBR ISO 9241-151:2011, sugerem que a primeira área – Decisões de Projeto de Alto Nível – foi orientada às exigências da legislação e aos especialistas em gestão do governo, uma vez que os dados apresentados são apenas totais gerais e os termos são de difícil compreensão. O propósito do website é permitir à população fiscalizar o dinheiro público, porém, é difícil realizar essa inspeção sem detalhamento ou localização.

Por exemplo, um cidadão pode querer saber a quantia gasta pelo governo federal em Desenvolvimento Científico e, deste valor, quanto foi executado em seu estado ou cidade. Tendo em mãos o detalhamento e o contexto, os subtotais o ajudarão a perceber investimentos ou solicitar maior orçamento junto aos seus representantes políticos.

Outro déficit percebido em confronto a norma é a falta de recursos de acessibilidade para portadores de necessidades visuais, fator que deveria ter sido considerado no projeto do portal.

Quando acessado por dispositivos móveis (Windows phone, Android e IOs), o portal apresentou a mesma interface de navegadores tradicionais, que se auto ajusta à tela do dispositivo. Entretanto, não é uma interface desenvolvida especialmente para mobiles, sendo de difícil visualização, principalmente nos valores dos relatórios. Também é possível notar falhas graves no tratamento de erros quando realizadas consultas sem selecionar os campos obrigatórios. A definição dos dispositivos móveis de acesso, ainda na fase de projeto, poderia prever essa demanda e promover as adequações necessárias, conforme recomendado pela norma de ergonomia de interface.

Dois aspectos ainda reforçados pela primeira área da norma e que não apresentaram adequação significativa durante a aplicação do checklist dizem respeito ao feedback e à interface personalizada de acordo com o perfil do usuário.

A área seguinte, apresentada pela norma, refere-se ao Projeto de Conteúdo, que, dentre outras sugestões, recomenda a implementação de mecanismos de busca no site, visando o esforço mínimo. Esta funcionalidade, porém, não está disponível no portal avaliado. A norma também ressalta a importância do link para a página principal estar presente em todas as demais páginas, o que está parcialmente implementado no site, porém é de difícil identificação.

Quando consideradas a Avaliação e Busca, terceira área, a norma novamente ressalta, em consonância com os critérios ergonômicos de Scapin e Bastien, a importância dos controles como "voltar" presentes nas páginas, não dependendo dos controles do navegador.

Na área subsequente, a norma oferece orientações sobre a Apresentação do Conteúdo, havendo destaque negativo para a falta de contraste, de acessibilidade e no difícil reconhecimento de links. Apesar de atender parcialmente às orientações, o portal

poderia proporcionar textos mais claros e visíveis.

Em relação aos Aspectos Gerais do Projeto, quinta área, apesar de não oferecer opções de idioma para acessos internacionais, os avaliadores não consideraram ser relevante, uma vez que o público-alvo é o brasileiro, e o portal nacional. As mensagens de erro poderiam ser mais claras, trazendo motivos e soluções. O aspecto robustez, se atendido totalmente, possibilitaria o acesso do portal por meio de diferentes navegadores e dispositivos.

5. Considerações finais

Além dos aspectos ergonômicos avaliados através da aplicação do checklist, é possível identificar outras inconsistências como, por exemplo, as cores utilizadas no ambiente, consideradas pelos autores com baixo contraste, causando fadiga visual e dificuldade de distinção dentre as áreas.

Por ser um portal de acesso público, apresenta acessibilidade visual limitada, não sendo encontrados pelos especialistas recursos de tecnologia assistiva, tais como ampliação de texto e alto contraste, conforme as recomendações contidas no E-mag (Modelo de Acessibilidade em Governo Eletrônico, versão 3.1, de 2014). Este modelo, segundo informações do portal institucional, tem o compromisso de ser o norteador no desenvolvimento e adaptação de conteúdos digitais do governo federal, garantindo o acesso a todos, e é uma versão especializada do documento internacional WCAG (Web Content Acessibility Guidelines), porém, em análise deste modelo e seus documentos relacionados (leis e decretos), reforçaram-se aspectos negativos do módulo avaliado, tal qual a impossibilidade de navegar adequadamente através da tecla tab (para dispensar o uso de mouse), ou ainda, o acesso sem monitor em caso de cegueira.

As condições identificadas ressaltam que não há uma identidade padrão nos sites governamentais, uma vez que apresentam gran

des diferenças de layout entre si, e também não seguem as recomendações estabelecidas pelo próprio governo em relação à acessibilidade.

Ao alcançar um percentual de 66% de conformidade e 16% de conformidade parcial durante a aplicação do checklist, os avaliadores consideram que, não apenas o módulo avaliado, mas todo o portal deveria adotar as recomendações apontadas neste estudo, a fim de melhorar a ergonomia da aplicação web. Apesar de ser funcional e atender ao proposto, emitindo relatórios de despesas por função, subfunção e ano/exercício, os problemas de ergonomia e usabilidade podem impedir que o usuário acesse ou compreenda as funções do portal, e por consequência não as utilize, tornando a ergonomia tão importante quanto a própria funcionalidade do sistema.

Para projetos futuros, pretende-se complementar o trabalho com a apresentação de soluções através de protótipos, no intuito de auxiliar no avanço ergonômico da interface e, através de pesquisas a campo, verificar junto aos usuários se há melhoria na navegação.

6. Referências

Decreto nº 5.482, de 30 de junho de 2005. Dispõe sobre a divulgação de dados e informações pelos órgãos e entidades da administração pública federal, por meio da Rede Mundial de Computadores – Internet. Diário Oficial da União, Brasília, DF, 1º de julho de 2005. Disponível em: <http://www.planalto.gov.br/ccivil_03/_Ato2004-2006/2005/Decreto/D5482.htm >. Acesso 19 abr 2015.

__________. Lei Complementar nº 101, de 4 de maio de 2000. Estabelece normas de finanças públicas voltadas para a responsabilidade na gestão fiscal e dá outras providências. Diário Oficial da União, Brasília, DF, 5 de mai. de 2000. Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/LCP/Lcp101.htm >. Acesso em 18 abr 2015.

__________. Lei Complementar nº 131, de 27 de maio de 2009. 2009b. Acrescenta dispositivos à Lei Complementar nº101, de 4 de maio de 2000, que estabelece normas de finanças públicas voltadas para a responsabilidade na gestão fiscal e dá outras providências, a fim de determinar a disponibilização, em tempo real, de informações pormenorizadas sobre a execução orçamentária e financeira da União, dos Estados, do Distrito Federal e dos Municípios. Diário Oficial da União, Brasília, DF, 28 de mai. de 2009. Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/LCP/Lcp131.htm>. Acesso em: 18 abr 2015.

ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS. NBR ISO/IEC 12207:2009 – Engenharia de Sistemas de Software – Processos de Ciclo de Vida de Software. Rio de Janeiro: ABNT, 2009.

BASTIEN, J. M. C., & Scapin, D. L. (1993); Preliminary findings on the effectiveness of ergonomic criteria for the evaluation of human-computer interfaces. Short paper presented at the Conference on Human Factors in Computing Systems, INTERCHI '93, Amsterdam, The Netherlands

BRINCK, T., GERGLE, D., WOOD, S. (2002); Usability for the web: designing web sites that work, San Diego, Academic Press.

CASTELLS, M. (2003); A galáxia da Internet: reflexões sobre a internet, os negócios e a sociedade. Trad. Maria Luiza X. de A. Borges. Rio de Janeiro: Jorge Zahar Ed.

CGU – CONTROLADORIA GERAL DA UNIÃO. Portal da Transparência. Disponível em: < http://www.portaltransparencia.gov.br >, Acesso em: 18 abr. 2015.

CYBIS, W., BETIOL, A. H., FAUST, R. (2007); Ergonomia e Usabilidade: conhecimentos, métodos e aplicações. São Paulo: Novatec.

e-MAG (2014); Modelo de Acessibilidade em Governo Eletrônico. Versão 3.1. Portal do Governo Federal. Acesso em junho de 2015. Disponível em: http://emag.governoeletronico.gov.br/

FREIRE, F. R. (2014); Desafios para a transparência pública: um estudo com os usuários do Portal da Transparência do Governo Federal. 2014. 283f. Dissertação (Mestrado em Ciência Política) - Instituto de Ciência Política, Universidade de Brasília. Brasília.

GIL, Antonio Carlos (2002); Como elaborar projetos de pesquisa. 4.ed. São Paulo: Atlas.

GIL, Antonio Carlos (2010); Como elaborar projetos de pesquisa. 5. ed. São Paulo: Atlas.

HANSEN (1991). In: MANCHON, Eduardo. O que é interação pessoa-computador. 2005. Disponível em http://www.criarweb.com/artigos/472.php

ISO 9241:151. International Organization for Standardization. Acessado em: abril de 2015. Disponível em: http://www.iso.org/iso/home/store/catalogue_tc/catalogue_detail.htm?csnumber=37031

HOLMES, M. (2002); Web Usability & Navigation: a beginner's guide, Berkeley: McGraw-Hill.

KRUG, Steve (2001); Não me faça pensar: uma abordagem do bom senso à navegabilidade da Web. São Paulo: Market Books.

LICKLIDER (1960). In: MANCHON, Eduardo; O que é interação pessoa-computador. 2005. Disponível em http://www.criarweb.com/artigos/472.php

LICKLIDER E CLARK (1962). In: MANCHON, Eduardo; O que é interação pessoa-computador. 2005. Disponível em http://www.criarweb.com/artigos/472.php

MARCONI, Marina de Andrade. LAKATOS, Eva Maria (2003); Fundamentos de metodologia científica, 5ª edição. São Paulo: Editora Atlas, p.159

MEMÓRIA, Felipe (2005); Design para a Internet: Projetando a experiência perfeita.Rio de Janeiro: Elsevier.

NAZÁRIO, D. C. et al. (2012); Avaliação da qualidade da informação disponibilizada no portal da transparência do governo federal. Revista Democracia Digital e Governo Eletrônico (ISSN 2175-9391), n° 6, p. 180-199.

NEVES, O. (2013); Evolução das Políticas de Governo Aberto no Brasil. In: VI Congresso CONSAD, 16-18 abr. 2013, Brasília, Brasil. Anais. Brasília, CONSAD.

NIELSEN, Jakob (2000); Projetando websites: A prática da simplicidade. Rio de Janeiro: Campus.

NIELSEN, J. & TAHIR, M. (2002); Homepage Usability: 50 Websites Deconstructed, Indianapolis: New Riders.

OLIVEIRA, Tiago Gomes de (2012); Engenharia de usabilidade: critérios ergonômicos de Scapin e Bastien aplicados ao software. Revista Fasem Ciências. V.2, n.2.

PÁDUA, Wilson (2000); Multimídia: conceitos e aplicações. Rio de Janeiro: LTC.

POLIT, D. F.; HUNGLER, B. P. (1995); Nursing research: Principles and methods. 5 th edition. Philadelphia: Lippincott.

PORTAL DA TRANSPARÊNCIA. Disponível em: http://www.portaldatransparencia.gov.br/faleConosco/perguntas-tema-transparencia-lei-complementar.asp#1. Acessado em 09/04/2015.

PRESSMAN, R. S. (1995); Engenharia de Software. São Paulo: Makron Books.

SCAPIN, D. L. (2008); The need for Psycho-Engineering Approach to HCI. In Anais do 2° Congresso Brasileiro e 6°Seminário Brasileiro de Ergonomia, Florianópolis. ABERGO/FUNDACENTRO, 1993. In: BOTTENTUIT JUNIOR, Joao B.; COUTINHO, Clara P. Análise das componentes e a usabilidade das WebQuests em língua portuguesa disponíveis na web: um estudo exploratório JISTEM J.Inf.Syst. Technol. Manag. (Online) vol.5 no.3 São Paulo.

SHACKEL, B. (1993); Usability: context, framework, definition and evaluation. In Human Factors for Information Usability. Cambridge: Cambridge University Press, p. 21 - 37. In: BOTTENTUIT JUNIOR, Joao B.; COUTINHO, Clara P. Análise das componentes e a usabilidade das WebQuests em língua portuguesa disponíveis na web: um estudo exploratório JISTEM J.Inf.Syst. Technol. Manag. (Online) vol.5 no.3 São Paul, 2008.

SOUZA, Antônio Carlos (2003); et al. Avaliação comparativa da qualidade ergonômica das interfaces gráficas do Solidworks 2000 e AutoCAD 2000. ENEGEP 2003 – XXIII Encontro Nacional de Engenharia de Produção, Ouro Preto – MG.

WROBLEWSKI, L. (2002); Site-Seeing: a visual approach to web usability, New York: Hungry Minds.


1. Mestranda do Programa de Pós-Graduação Stricto Sensu em Engenharia de Produção e Sistemas, Universidade Tecnológica Federal do Paraná (UTFPR) Pato Branco – PR - Brasil. ivania.ramos.santos@gmail.com
2. Mestranda do Programa de Pós-Graduação Stricto Sensu em Engenharia de Produção e Sistemas, Universidade Tecnológica Federal do Paraná (UTFPR) Pato Branco – PR - Brasil. dalila@utfpr.edu.br
3. Mestrando do Programa de Pós-Graduação Stricto Sensu em Engenharia de Produção e Sistemas, Universidade Tecnológica Federal do Paraná (UTFPR) Pato Branco – PR - Brasil. roger@utfpr.edu.br

4. Doutor em Engenharia de Produção. Professor do Programa de Pós-Graduação Stricto Sensu em Engenharia de Produção e Sistemas, Universidade Tecnológica Federal do Paraná (UTFPR) Pato Branco – PR - Brasil. slpes-sa@utfpr.edu.br

5. Doutor em Engenharia de Produção. Professor do Programa de Pós-Graduação Stricto Sensu em Engenharia de Produção e Sistemas, Universidade Tecnológica Federal do Paraná (UTFPR) Pato Branco – PR - Brasil. schenat-to@utfpr.edu.br


Revista Espacios. ISSN 0798 1015
Vol. 37 (Nº 17) Año 2016

[Índice]

[En caso de encontrar algún error en este website favor enviar email a webmaster]