Clasificación de Páginas Web con Anotaciones Sociales

25
Clasificaci´on de P´ aginas Web con Anotaciones Sociales SEPLN 2009 Arkaitz Zubiaga, Raquel Mart´ ınez, V´ ıctor Fresno NLP & IR Group @ UNED 9 de septiembre de 2009

description

My presentation at SEPLN 2009 on September 9th, 2009

Transcript of Clasificación de Páginas Web con Anotaciones Sociales

Page 1: Clasificación de Páginas Web con Anotaciones Sociales

Clasificacion de Paginas Web con Anotaciones SocialesSEPLN 2009

Arkaitz Zubiaga, Raquel Martınez, Vıctor Fresno

NLP & IR Group @ UNED

9 de septiembre de 2009

Page 2: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

Indice

1 Introduccion

2 Conjunto de Datos

3 Experimentos

4 Conclusiones

5 Trabajo Futuro

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 2 / 25

Page 3: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

¿Que es la Clasificacion Automatica?

Disponiendo de un conjunto de documentos:

D = {d1, ..., d|D|}

Y una serie de categorıas predefinidas:

C = {c1, ..., c|C |}

La clasificacion automatica se conoce como:

〈dj , ci 〉 ∈ D × C

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 3 / 25

Page 4: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

¿Que son los marcadores sociales? (I)

Sitios web que permiten almacenar enlaces de Internet asignandometadatos.

Delicious1

1http://delicious.comZubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 4 / 25

Page 5: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

¿Que son los marcadores sociales? (II)

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 5 / 25

Page 6: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

Tipos de Anotaciones Sociales

Etiquetas (Tags): Palabras clave. Ej.: photography, web2.0, images.

Notas (Notes): Descripciones mediante texto libre. Ej.: Flickr is awebsite for photo sharing and photo online management.

Destacados (Highlights): Selecciones de partes relevantes de lapagina.

Crıticas (Reviews): Textos libres haciendo valoraciones subjetivas.Ej.: Interesting web page with photos.

Valoraciones (Ratings): Puntuaciones ofrecidas. Ej.: de 1 a 5.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 6 / 25

Page 7: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

Motivacion

Los metodos clasicos de clasificacion de paginas web se basan en elcontenido de las propias paginas.

Motivacion: ¿Podrıan ayudar las anotaciones sociales en esta tarea?

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 7 / 25

Page 8: Clasificación de Páginas Web con Anotaciones Sociales

Introduccion

Trabajo relacionado

Varios trabajos (Bao et al., 2007; Heymann et al., 2008) muestran lautilidad de las anotaciones sociales para recuperacion de informacion.

(Ramage et al., 2009) muestra mejoras en tareas de clusteringutilizando etiquetas.

(Noll y Meinell, 2008) realizan un estudio de las anotaciones sociales,concluyendo que podrıan resultar interesantes para su utilizacion enclasificacion de paginas web.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 8 / 25

Page 9: Clasificación de Páginas Web con Anotaciones Sociales

Conjunto de Datos

Indice

1 Introduccion

2 Conjunto de Datos

3 Experimentos

4 Conclusiones

5 Trabajo Futuro

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 9 / 25

Page 10: Clasificación de Páginas Web con Anotaciones Sociales

Conjunto de Datos

Conjunto de Datos

Diciembre de 2008 - Enero de 2009: obtencion de URLs con mas de100 anotaciones en Delicious.

87.096 URLs.

Clasificacion de estas URLs en Open Directory Project2 (ODP).Coincidencia sobre 12.616 URLs.17 categorıas de primer nivel.No balanceado.

Obtencion de anotaciones:Num. usuarios que lo anotan3.Lista Top 10 de etiquetas3.Actividad Completa de Etiquetas (ACE)3.Notas3.Crıticas4.Destacados5.

2http://www.dmoz.org3Delicious4StumbleUpon - http://www.stumbleupon.com5Diigo - http://diigo.com

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 10 / 25

Page 11: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Indice

1 Introduccion

2 Conjunto de Datos

3 Experimentos

4 Conclusiones

5 Trabajo Futuro

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 11 / 25

Page 12: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Configuracion

Maquinas de Vectores de Soporte (SVM).

SVMmulticlass6

Evaluacion: Accuracy.

Multiples conjuntos de entrenamiento.

6 ejecuciones por cada conjunto.

6http://svmlight.joachims.orgZubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 12 / 25

Page 13: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Clasificacion con Etiquetas (I)

Etiquetas sin pesos.

Etiquetas ordenadas.

Porcentaje de usuarios.

Etiquetas con pesos (Top 10).

Etiquetas con pesos (ACE).

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 13 / 25

Page 14: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Clasificacion con Etiquetas (II)

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 14 / 25

Page 15: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Clasificacion con Comentarios (I)

Solo notas.

Uniendo notas y crıticas.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 15 / 25

Page 16: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Clasificacion con Comentarios (II)

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 16 / 25

Page 17: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Comparacion con Baseline (Contenido) (I)

Contenido.

Comentarios.

Etiquetas.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 17 / 25

Page 18: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Comparacion con Baseline (Contenido) (I)

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 18 / 25

Page 19: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Combinacion de Clasificadores (I)

Etiquetas + contenido.

Etiquetas + comentarios.

Comentarios + contenido.

Etiquetas + comentarios + contenido.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 19 / 25

Page 20: Clasificación de Páginas Web con Anotaciones Sociales

Experimentos

Combinacion de Clasificadores (II)

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 20 / 25

Page 21: Clasificación de Páginas Web con Anotaciones Sociales

Conclusiones

Indice

1 Introduccion

2 Conjunto de Datos

3 Experimentos

4 Conclusiones

5 Trabajo Futuro

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 21 / 25

Page 22: Clasificación de Páginas Web con Anotaciones Sociales

Conclusiones

Conclusiones

Hemos analizado y evaluado la utilizacion de anotaciones socialespara clasificacion de paginas web.

Algunas anotaciones no son suficientemente populares.

Las etiquetas y los comentarios lo son.

Tanto las etiquetas como los comentarios superando los resultadosbasados en contenido.

La combinacion de los 3 tipos de datos mejora aun mas.

Corroboramos la conclusion de (Noll y Meinell, 2008), demostrandode forma cuantitativa la utilidad de las anotaciones sociales paraclasificacion de paginas web.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 22 / 25

Page 23: Clasificación de Páginas Web con Anotaciones Sociales

Trabajo Futuro

Indice

1 Introduccion

2 Conjunto de Datos

3 Experimentos

4 Conclusiones

5 Trabajo Futuro

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 23 / 25

Page 24: Clasificación de Páginas Web con Anotaciones Sociales

Trabajo Futuro

Trabajo Futuro

Clasificacion a mas bajo nivel.

Filtrado de etiquetas y comentarios inadecuados.

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 24 / 25

Page 25: Clasificación de Páginas Web con Anotaciones Sociales

Trabajo Futuro

Muchas Gracias

Achiu Arigato Danke Dhannvaad Dua Netjer en ek Efcharisto

Gracias Gracies Gratia Grazie GuishepeliHvala Kiitos Koszonom Merce Merci Milaesker Obrigado Shukran Shukriya Tack Tak Takk

Tanan Tapadh leat Tesekkur ederim Thankyou Toda

Zubiaga, Martınez, Fresno (UNED) Clasificacion con Anotaciones Sociales 9 de septiembre de 2009 25 / 25