FERREIRA NETO, Amarílio; NASCIMENTO, Ana Claudia Silvério. Avaliação de periódicos científicos da educação física: caso da Revista Paulista de Educação Física, 2003.
AVALIAÇÃO DE PERIÓDICOS CIENTÍFICOS DA EDUCAÇÃO FÍSICA:
O CASO DA REVISTA PAULISTA DE EDUCAÇÃO FÍSICA[6]
Amarílio Ferreira Neto Doutor em Educação pela Universidade Metodista de Piracicaba Professor do Departamento de Desportos da Universidade Federal do Espírito Santo Coordenador do PROTEORIA - Instituto de Pesquisa em Educação e Educação Física
Ana Claudia Silverio Nascimento
Graduada em Comunicação Social e Educação Física pela Universidade Federal do Espírito Santo Membro do PROTEORIA - Instituto de Pesquisa em Educação e Educação Física
1 INTRODUÇÃO
Visto que o processo de validação de novos conhecimentos demanda julgamento de valor, a avaliação dos periódicos torna-se fator imprescindível à distinção entre literatura científica e não científica.
Dentro desse contexto, a avaliação de periódicos tornou-se uma preocupação atual dos profissionais que se interessam pela qualidade da informação científica, sejam eles autores, editores, publicadores, gerenciadores de sistemas de indexação e, principalmente, pesquisadores.
Isso se deve ao fato de diversas críticas estarem sendo realizadas quanto à publicação de revistas com baixa qualidade, que não cumprem os critérios estabelecidos pela comunidade científica, e com as quais vem se perdendo recursos, material publicado e o prestígio de algumas instituições. Entre essas críticas, podemos destacar: irregularidade na publicação e distribuição da revista, falta de normalização dos artigos e da revista como um todo e falta do corpo editorial.
Dentro do processo de comunicação da ciência, a avaliação apresenta duas funções que merecem ser destacadas. Inicialmente, serve como filtro de qualidade, selecionando as contribuições originais e relevantes para a área. Serve ainda aos próprios pesquisadores, ao fornecer o retorno de seus trabalhos, permitindo-lhes rever, aperfeiçoar ou prosseguir em suas pesquisas.
Assim, a avaliação dos periódicos científicos pode ocorrer de duas formas: avaliação de mérito (conteúdo) e de desempenho (forma).
A primeira, normalmente realizada por pares (especialistas), pretende verificar aspectos como: qualidade dos artigos (originalidade, atualidade, identificação com a temática da revista e percentual de artigos originais); qualidade do corpo editorial e dos consultores (participação de membros da comunidade nacional e estrangeira); natureza do órgão publicador, abrangência, indexação, entre outros.
A segunda verifica aspectos como: normalização, duração, periodicidade, difusão, colaboração de autores e divisão de conteúdo.
No ato da avaliação formal, a verificação do cumprimento dos critérios acima citados é realizada atribuindo-se pontos a cada item atendido, permitindo, assim, não apenas a classificação dos periódicos de acordo com seu grau de normalização, mas também a caracterização de todo o conjunto no que diz respeito aos critérios mínimos cobrados de uma publicação para ser aceita pela comunidade científica.
Dessa forma, o presente relatório tem como objetivo apresentar alguns aspectos julgados relevantes e que foram tomados como indicadores para proceder à avaliação de periódicos que divulgam a produção científica da Educação Física, tomando como exemplo a Revista Paulista de Educação Física.
Os aspectos apresentados têm como ponto de partida o instrumento de avaliação formal elaborado a partir do modelo proposto por Krzyzanowski & Ferreira (1998), em seu estudo Avaliação de Periódicos científicos e técnicos brasileiros.
2 INSTRUMENTO E CRITÉRIOS DE AVALIAÇÃO
Desde que foi proposto, o modelo citado vem sendo usado em vários estudos sobre periódicos científicos e técnicos, pois permite mensurar aspectos relacionados com a normalização das revistas.
Entretanto, o instrumento elaborado para avaliação dos periódicos das Ciências Exatas e Biológicas apresentou limitações para a avaliação das revistas científicas da Educação Física, principalmente devido ao item "divisão de conteúdo”, evidenciando a necessidade de reformulação do modelo, a fim de que esse possa captar as particularidades da área, que se apresenta como multidisciplinar.
Como os artigos publicados nas revistas da área, muitas vezes, não têm as características de artigo original exigidas pelas Ciências Naturais, entendemos que seria mais adequado submeter as publicações da Educação Física ao instrumento elaborado para as Ciências Humanas.
Assim, de acordo com o instrumento formulado, os aspectos observados na avaliação das revistas são:
- • normalização: os periódicos são avaliados seguindo-se as variáveis estabelecidas no formulário, recebendo pontuação de acordo com sua normalização. Como parâmetro para medir a normalização, consideram-se as normas da Associação
Brasileira de Normas Técnicas (ABNT). No caso das referências, verifica-se qual a norma adotada e, a seguir, analisa-se se a revista cumpre a norma declarada.
- duração: considera-se a data de início e o tempo ininterrupto de existência do periódico para pontuação dessa variável.
- periodicidade: a indicação de periodicidade é verificada no próprio periódico e confirmada no Catálogo Coletivo Nacional de Publicações Seriadas (CCN), do Instituto Brasileiro de Informação em Ciência e Tecnologia (IBICT). Recebem um ponto a menos os fascículos atrasados e aqueles com números acumulados.
- indexação: recebem pontuação os fascículos que registram as fontes. São consideradas até três fontes internacionais e atribuem-se a cada uma delas cinco pontos.
- difusão (formas de distribuição): são consideradas de "distribuição gratuita” e recebem um ponto nessa variável as publicações que não registram a forma de distribuição nos fascículos e/ou só fazem difusão por meio de doação e permuta. As publicações que indicam preço de assinatura recebem três pontos nessa variável.
- colaboração de autores: a publicação de trabalhos de autores estrangeiros, em colaboração ou não, é analisada e também pontuada.
- divisão de conteúdo: pretende identificar o tipo de artigo que é publicado pelo periódico. Recebem pontos os fascículos que publicam: artigos originais (75% ou 50% do total de páginas), artigos de revisão, cartas, resenhas bibliográficas e estudo de caso.
A pontuação para cada variável e o total geral alcançado permitem uma classificação geral de desempenho de cada periódico analisado. Cada variável apresenta uma pontuação correspondente (ver formulário) e para cada conjunto de variável é atribuído um peso, ficando assim distribuído: Normalização - 25%;
Duração - 5%; Periodicidade - 12%; Indexação - 15%; Difusão - 3%; e Colaboração de autores e divisão de conteúdos - 40%.
Assim, dentro de cada um desses conjuntos, há um número máximo de pontos que pode ser obtido pela revista. Para que se consiga o desempenho do fascículo nesse item, deve-se relacionar o total de pontos obtidos pela revista dentro de determinado conjunto com o peso atribuído a ele.
O desempenho geral é obtido com a soma das pontuações alcançadas em cada um dos conjuntos, considerando a seguinte classificação:
NÍVEL A - acima de 90% (excelente)
NÍVEL B - de 71% a 90% (muito bom)
NÍVEL C - de 51% a 70% (bom)
NÍVEL D - de 31% a 50% (regular)
NÍVEL E- menor ou igual a 30% (fraco)
A pontuação pode ser visualizada melhor no seguinte quadro:
|
3 RESULTADOS DA AVALIAÇÃO
Para avaliação da Revista Paulista de Educação Física, consideramos os quatro últimos fascículos correspondentes aos volumes: 13 (2), 14 (1), 14 (2) e 15 (1). Esse procedimento, também usado por algumas bases de dados como Lilacs e Scielo, permite confirmar a presença de algumas características da revista e, sobretudo, conhecer sua periodicidade.
Dessa forma, o resultado alcançado foi o seguinte:
* Normalização
24,8 24,8 24,8 24,8
IMO
Volume 13 Volume 14 Volume 14 Volume 15 (2) (1) (2) (1)
Figura 1 - Normalização
Todos os fascículos obtiveram a mesma pontuação, correspondente a vinte e um pontos (24,8%), dos vinte e dois possíveis nesse item (25%). Esse fato demonstra que a revista apresenta uma boa normalização.
A única variável desse item em que a revista não recebeu pontuação máxima foi "instruções aos autores”, pois não incluem exemplos de referências. Consideramos esse um item que deve ser observado, pois as instruções devem conter, além dos aspectos técnicos (tamanho da fonte, espaçamento, número de laudas, etc.), o critério utilizado para avaliação, bem como exemplos de referências.
Outro aspecto que precisa ser observado se refere à data de recebimento e aprovação dos artigos. As datas informadas na maioria dos artigos não correspondem ao período de publicação do fascículo. Assim, não é aceitável que um artigo recebido em setembro, revisado e aprovado em novembro, seja publicado na revista correspondente aos meses de janeiro a junho do mesmo ano (v. 15, n. 1).
- • Duração, periodicidade, difusão
A pontuação no item duração é atribuída conforme o tempo de existência da revista. Assim, revistas mais antigas recebem pontuação maior. Esse critério privilegia as revistas que conseguem garantir a continuidade de sua publicação.
O conjunto difusão pretende verificar o tipo de distribuição utilizada pelas revistas. As que são distribuídas gratuitamente recebem pontuação inferior àquelas que são vendidas ou trocadas com outras instituições.
O conjunto periodicidade pretende verificar o intervalo de aparição da revista, observando se a periodicidade informada é cumprida.
Nesse conjunto, a revista obteve somente dois, dos doze pontos possíveis. Acreditamos que, no momento, esse é o grande problema da publicação que tem enfrentado dificuldades para cumprir sua periodicidade.
A periodicidade regular de publicação é um dos critérios mais elementares no processo de avaliação e é de importância fundamental, pois indica o fluxo da produção científica do periódico.
Dessa forma, para ser incluída em bases de dados, uma revista deve ser publicada de acordo com a freqüência especificada. Indexadores da área da Saúde, como o próprio Lilacs, indicam a periodicidade quadrimestral como a mínima para as revistas dessa área, e a periodicidade trimestral como a ideal.
Assim, em contrapartida à sua baixa periodicidade, a revista deve investir no compromisso de manter sua regularidade como forma de conseguir ampliar a circulação mediante sua inclusão em outras bases de dados.
* Colaboração de autores e divisão de conteúdo
Nesse conjunto, a pontuação obtida pela revista pode ser visualizada da seguinte forma:
28,2 28,2 28,2 | ||||||||
|
|
| 21,1 |
|
|
|
|
|
|
|
|
|
| ||||
|
|
|
|
|
Figura 2 - Colaboração de autores e divisão de conteúdo
Este é sempre o conjunto mais difícil de ser avaliado, principalmente devido ao item divisão de conteúdo.
8
Quanto à colaboração de autores, notamos que dois, dos quatro fascículos, publicaram artigos de autores estrangeiros. Esse é um item importante pois, além do prestígio da revista na comunidade científica, essa variável é indicativa da capacidade da revista em atrair a colaboração de autores de outras instituições.
Assim, acreditamos que a Revista Paulista deve buscar maior intercâmbio com instituições de outros países, publicando artigos também em outra língua. Há boa participação da comunidade científica nacional na revista. Entretanto, a participação de autores estrangeiros ainda é pequena.
No item divisão de conteúdo, a revista alcançou excelente desempenho dando preferência à publicação de artigos originais e artigos de revisão. Entretanto, necessita definir seções em seu sumário. Para isso, precisa apresentar de forma clara a concepção da revista sobre a qualidade acadêmica dos artigos (sugerimos que seja feita nas instruções aos autores), permitindo, assim, que a comunidade identifique mais facilmente o tipo de artigo publicado.
Levando em consideração todos os conjuntos avaliados, o desempenho geral da revista Paulista foi o seguinte:
699 | 77 | ||
| n |
| n 60'5 |
|
|
| ? ? |
|
|
|
|
| ? | ? | J U |
4 CONSELHO EDITORIAL
Apesar de não constar no instrumento utilizado para a avaliação da revista, consideramos relevante destacar a importância do Conselho Editorial.
Inicialmente, devemos pontuar que a sua composição deve ser pública e seus integrantes especialistas reconhecidos pela comunidade científica. Outro fator importante diz respeito à sua abrangência, que deve ser nacional e internacional, sendo composto por membros de outras instituições e Estados da Federação e de outros países.
Periódicos que possuem um Conselho com integrantes ligados predominantemente à instituição publicadora têm poucas chances de ser incluídos em bases de dados internacionais, visto que ele pode ser indicador da qualidade necessária ao julgamento abalizado e imparcial dos trabalhos publicados no periódico.
Assim, acreditamos que a revista deve incluir em seu Conselho Editorial a participação de membros de instituições nacionais e internacionais, apresentado, de forma clara, a sua titulação e instituição de origem.
5 ASPECTOS POSITIVOS
Podemos citar os seguintes:
- possui qualidade gráfica;
- apresenta ótima normalização;
- privilegia a publicação de artigos originais;
- conta com boa participação de autores de diversas instituições do País.
6 ASPECTOS A SEREM APRIMORADOS
Alguns aspectos da revista devem ser observados:
- as instruções aos autores precisam trazer informações sobre a qualidade acadêmica dos artigos, exemplos de referências e critérios usados para avaliação dos artigos;
- os resumos devem ser apresentados também em espanhol;
- a pontualidade deve ser observada e a periodicidade aumentada;
- as seções devem ser classificadas por tipo de artigo;
- a revista deve buscar maior intercâmbio com instituições estrangeiras e publicar artigos em outra língua;
- a revista deve atentar para as datas de recebimento e aprovação dos artigos;
- o termo "bibliográficas” deve ser retirado das referências.
7 CONSIDERAÇÕES FINAIS
Após procedermos à análise dos fascículos, verificamos que os resultados obtidos demonstram que a Revista Paulista de Educação Física é classificada como B (muito bom), apresentando aspectos que ainda precisam ser melhorados, tanto de normalização como de conteúdo.
Os problemas detectados na normalização da revista podem ser facilmente corrigidos. O fato de já estar indexada na base de dado Lilacs faz com que a revista passe por um processo contínuo de avaliação. Dessa forma, acreditamos que a melhoria nos aspectos destacados pode contribuir para a sua permanência no indexador.
A indexação em centros internacionais de referência depende da qualidade do periódico e é concedida em função desses aspectos normativos e outras exigências. Assim, a adoção de padrões editoriais consistentes e uma periodicidade previsível e regular podem contribuir para maior visibilidade da publicação, uma vez que são fatores observados pelas bases de dados.
Atendidas as observações relacionadas com a normalização da revista, devese estar atento para o problema de maior dificuldade de alguns periódicos: o estabelecimento de uma definição clara sobre a qualidade acadêmica dos artigos.
A revista precisa apresentar de maneira explícita seções baseadas nesta definição (artigo original, artigo de revisão, estudo de caso, etc.). Dessa forma, os pareceristas, com base nessa definição, poderão "classificar” os artigos aprovados para publicação.
Todas as variáveis avaliadas são intervenientes na indexação e simultaneamente na circulação ou vice-versa. O aprimoramento dos aspectos destacados pode contribuir para a inserção da revista em outras bases de referências nacionais e internacionais, fomentando e enriquecendo a produção científica veiculada.
Assim, ainda que o modelo aplicado nessa avaliação possua limitações, acreditamos que os itens analisados correspondem às características que são observadas pelos principais indexadores e, por isso, é adequado à nossa realidade e cumpre as funções para as quais foi desenvolvido.
8 REFERÊNCIAS
CASTRO, R. C. F.; FERREIRA, M. C. G.; VIDILI, A. L. Periódicos latino-americanos: avaliação das características formais e sua relação com a qualidade científica. Ciência da Informação, Brasília, v. 25, n. 3, p. 357-67, set./dez. 1996.
CASTRO, R. C. F. ; NEGRÃO, M. B.; ZAHER, C. R. Procedimentos editoriais na avaliação de artigos para publicação em periódicos de ciências da saúde da América Latina e Caribe. Ciência da Informação, Brasília, v. 25, n. 3, 1996.
GREENE, Lewis Joel. O dilema do editor de uma revista biomédica: aceitar ou não aceitar. Ciência da Informação, Brasília, v. 27, n. 2, 1998.
KRZYZANOWSKI, R. F. e FERREIRA, M. C. Gonzaga. Avaliação de periódicos científicos e técnicos brasileiros. Ciência da Informação, Brasília, v. 27, n. 2, p. 165175, maio/ago. 1998.
KRZYZANOWSKI, R. F. et al. Programa de apoio às revistas científicas para a FAPESP. Ciência da Informação, Brasília, v. 20, n. 2, 1991.
_______ Periódicos científicos - ProBE, informação em tempo real. Disponível
em: < http://www.fapesp.br.opini42>. Acesso em 23 ago. 2001.
LILACS - Literatura Latino-Americana e do Caribe em Ciências da Saúde. Critérios de Seleção de periódicos para a base de dados LILACS. 2000. Disponível em: <http://www.bireme.br/abd/P/crit Selecao.html> Acesso em: 19 ago.2001.
MEADOWS, A. J. A comunicação científica. Tradução de Antonio Agenor Briquet de Lemos. Brasília, DF: Briquet de Lemos/Livros,1999
MIRANDA, D. B. O periódico científico como veículo de comunicação: uma revisão de literatura. Ciência da Informação, Brasília, v. 25, n. 3, 1996.
MUELLER, S. P. M. O círculo vicioso que prende os periódicos nacionais. DataGramaZero, Brasília, n. 0, dez. 1999.
OHIRA, M. L. B.; SOMBRIO, M. L. L. N.; PRADO, N. P. Periódicos brasileiros especializados em biblioteconomia e ciência da informação. Encontros Bibli: revista de Biblioteconomia e Ciência da Informação, Florianópolis, n.10, out.
- Disponível em: <http://www.ced.ufsc.br/bibliote/encontro>.
SABBATINI, Renato. Ciência perdida no terceiro mundo. Correio Popular, Campinas, 9 out. 1998.
______ . A morte das revistas científicas no Brasil. Correio Popular, Campinas, 30
out. 1998.
SCHWARTZMAN, Simon. A política brasileira de publicações científicas e técnicas: reflexões. Revista Brasileira de Tecnologia, Brasília, v. 15, n. 3, maio/ jun. 1984.
SCIENTIFIC Eletronic Libray Online. Biblioteca Científica Eletrônica. Sobre o Projeto. Disponível em: <http://www.scielo.br/fbpe/proieto/pintro>. Acesso em 19 ago.
2001.
SOUZA, D. H. F. de. Publicações periódicas: processos técnicos, circulação e disseminação seletiva da informação. Belém: Universidade Federal do Pará, 1992.
STUMPF, I. R. C. Passado e futuro das revistas científicas. Ciência da Informação, Brasília, v. 25, n. 3, p.383-386, 1996.
______ . Revistas universitárias brasileiras: barreiras na sua produção.
Transinformação, v. 9, n. 1, ,jan./abr. 1997.
______ . Reflexões sobre as Revistas Brasileiras. In texto, v.1, n. 3, 2000. Disponível
em: <file://A:InTexto_arquivosconteudo_arquivosa-v1n3a3.html> Acesso em: ago.2001.
TARGINO, M. das G; GARCIA, J. C. R. Ciência brasileira na base de dados do Institute for Scientific Information. Ciência da Informação, Brasília, v. 29, n. 1, p. 103-126, jan./abr. 2000.
TARGINO, Maria das Graças. Comunicação científica: uma revisão de seus elementos básicos. Informação & Sociedade, v. 10, n. 2, p. 37-85. 2000.
TESTA, James. A base de dados ISI e seu processo de seleção de revistas. Ciência da Informação, Brasília, v. 27, n. 2, 1998.
YAMAMOTO, O. H. et al. Periódicos científicos em psicologia: uma proposta de avaliação. Infocapes, v. 7, n. 3, p.7-13, jul./set. 1999.
14
Modelo para avaliação de periódicos científicos - Educação Física
Titulo________________________________________________________________________
Instituição____________________________________________________________________
Volume (s)_____ N°______ Estado______________ Agência Financiadora___________
1 | NORMALIZAÇAO |
|
|
1.1 | Periódico no todo |
|
|
1.1.1 | Legenda bibliográfica | Inclusão (capa, sumário, páginas do texto) | 02 |
|
| Existência | 01 |
1.1.2 | ISSN | Inclusão (capa, página de rosto e/ou sumário) | 02 |
|
| Existência | 01 |
1.1.3 | Endereço | Completo | 01 |
1.1.4 | Periodicidade | Explícita | 01 |
1.1.5 | Instruções aos autores | Existência | 01 |
|
| Completa (incluindo exemplo de referências) | 02 |
1.2 | Fascículo |
|
|
1.2.1 | Sumário | Existência (língua original) | 01 |
|
| Existência (bilíngüe) | 02 |
1.2.2 | Referências | Normalizadas (mais da metade dos artigos) | 01 |
|
| Normalização explícita (ISO, ABNT, CIDRM, outros) | 02 |
1.3 | Artigos |
|
|
1.3.1 | Filiação autor | Indicação incompleta | 01 |
|
| Indicação completa | 03 |
1.3.2 | Resumos só no idioma do texto | Inclusão sistemática | 02 |
1.3.3 | Resumos só em outro idioma que não o do texto | Inclusão sistemática | 02 |
1.3.4 | Resumos bilingües | Inclusão sistemática | 04 |
1.3.5 | Descritores | Inclusão em todos os artigos | 02 |
|
| Inclusão em mais da metade dos artigos | 01 |
1.3.6 | Data de recebimento e/ou publicação dos artigos | Inclusão sistemática | 01 |
2 | DURAÇAO |
|
|
2.1 | Tempo ininterrupto de existência | 2 a 5 anos | 02 |
|
| 6 a 10 anos | 03 |
|
| 11 a 15 anos | 04 |
|
| Mais de 15 anos | 05 |
3 | PERIODICIDADE |
|
|
3.1 | Intervalo regular de aparição | 1 vez ao ano | 01 |
|
| 2 vezes ao ano | 02 |
|
| 3 vezes ao ano | 03 |
|
| 4 vezes ao ano | 04 |
|
| 5 vezes ao ano | 05 |
|
| 6 vezes ao ano | 06 |
|
| 7 vezes ao ano | 07 |
|
| 8 vezes ao ano | 08 |
|
| 9 vezes ao ano | 09 |
|
| 10 vezes ao ano | 10 |
|
| 11 vezes ao ano | 11 |
|
| 12 vezes ao ano | 12 |
| Irregulares, atrasadas | 1 ponto a menos |
|
4 | DIFUSÃO |
|
|
4.1 | Formas de distribuição | Compra e/ou permuta | 03 |
|
| Distribuição gratuita | 01 |
5 | COLABORAÇÃO E DIVISÃO DE CONTEÚDO |
|
|
5.1 | Autoria | Publicação de no mínimo 10% de artigos de autores estrangeiros e/ou em colaboração | 03 |
5.2 | Divisão de conteúdo |
|
|
5.2.1 | Artigos originais | Inclusão regular de 75% | 05 |
|
| Inclusão regular de 50% | 03 |
5.2.2 | Artigos de revisão | Inclusão regular | 04 |
5.2.3 | Cartas | Inclusão regular | 02 |
5.2.4 | Resenhas bibliográficas | Inclusão regular | 02 |
5.2.5 | Estudos de caso | Inclusão regular | 01 |
6 | INDEXAÇÃO |
|
|
6.1 | Inclusão em bibliografias, abstracts, sumários correntes impressos ou em CD-ROM | Em cada serviço internacional | 05 |
1 Esse relatório de pesquisa foi produzido como parte do processo da avaliação de periódicos científicos da Educação Física brasileira. Os demais periódicos analisados são: Revista Brasileira de Ciências do Esporte, Revista Brasileira de Ciência & Movimento, Motrivivência, Revista Educação Física/UEM, Revista Mineira de Educação Física, Motus Corporis, Movimento, Motriz, Licere e Pensar a Prática. O trabalho foi desenvolvido pelo PROTEORIA - Instituto de Pesquisa em Educação e Educação Física em julho de 2002.
6