Difference between revisions of "ES/Desarrollo/Syndication"

From Apache OpenOffice Wiki
< ES
Jump to: navigation, search
m (remove link to old TWiki pages)
Line 9: Line 9:
 
</ul>
 
</ul>
  
<pre>
+
<pre>[python]
 
#!/usr/bin/env python
 
#!/usr/bin/env python
 
# -*- coding: utf-8 -*-
 
# -*- coding: utf-8 -*-

Revision as of 23:31, 10 December 2006

Syndicating OOo website

This script will parse and syndicate OOoES Announcement section and then register it to a Database Backend. This is still a simple script and has no other functionality than parse the annoucment page you can change the project subdomain and you will be able to parse your announcments.

TODO:

  • Loop over multiple urls
  • Parse other documents such as Documentation
[python]
#!/usr/bin/env python
# -*- coding: utf-8 -*-

###########################################################################
#	 Copyright (C) 2005 by Alexandro Colorado && Luis Cabrera
#
#	 Author:
#		  Alexandro Colorado <jza@openoffice.org>
#		  Luis Cabrera <lcabrera@sauco.org>
#
# Copyright: See COPYING file that comes with this distribution
#
###########################################################################

__shell_usage__ = '''Este programa esta pensado para recoger automaticamente
		  los enlaces localizados en una determinada pagina, compararlos con los ya
		  existentes en una bbdd, y, si hay nuevos enlaces, insertarlos en la bbdd y
		  posteriormente, mandar un correo a las listas de usuarios predeterminadas
		  con los enlaces a las nuevas noticias.
		  Si no hubieran noticias nuevas, el programa no debera hacer absolutamente
		  nada.
		  '''
__version__ = '20051024'
__author__='Luis Cabrera Sauco && Alexandro Colorado'


import HTMLParser
import urllib2
import [[Main_MySQLdb|MySQLdb]]
import smtplib

############ CONFIGURATION VARIABLES ###############

'''Pagina de la que recoger los enlaces iniciales'''
headlines_url = ''

'''Datos para la configuracia de la bbdd'''
myhost= ""
myuser=""
mypassword=""
mydb=""
mytb=""

'''Datos para el envio de correos de avisos'''
enviar_correo=1
remitente=""
destinatario=""
subject=""
##
###################################


class [[Main_HeadlinesParser|HeadlinesParser]](HTMLParser.HTMLParser):
	 def __init__(self):
		  HTMLParser.HTMLParser.__init__(self)
		  self.headlines = {}
		  self.while_anchor = False
		  self.last_href = None

	 def handle_starttag(self, name, attrs):
		  attrs = dict(attrs)
		  if name == "a":
				if "href" in attrs:
					 current_href = attrs["href"]
					 if "news[[Main_ItemID|ItemID]]" in current_href:
						  self.while_anchor = True
						  self.last_href = current_href

	 def handle_data(self, content):
		  content = content.strip()
		  if self.while_anchor:
				self.headlines[content] = self.last_href

	 def handle_endtag(self, name):
		  if name == "a":
				self.while_anchor = False

def sendMessage(de, para=[], cc=[], asunto='Asunto',texto='Cuerpo.', archivos=[],
host='', charsettexto='iso-8859-1', loginUsername='', loginPassword=''):
	 """ Mandar mensaje por correo electronico. """

	 from email.MIMEBase import MIMEBase
	 from email.MIMEText import MIMEText
	 from email import Encoders
	 import mimetypes
	 from smtplib import SMTP
	 import os

	 msg=MIMEText(texto, _charset=charsettexto)
	 if archivos:
		  msg2=MIMEBase("multipart","mixed")  # crear contenedor
		  msg2.preamble="Este es un mensaje MIME con varias partes.

"	 
# 
 es muy importante!!! (de lo contrario no reconoce primer anexo.)
		  msg2.epilogue=''
		  msg2.add_payload(msg)
		  msg=msg2

	 # Cabeceras primero
	 msg['From']=de
	 if isinstance(para,(str,unicode)): para=[para]
	 msg['To']=", ".join(para)
	 if cc:
		  if isinstance(cc,(str,unicode)): cc=[cc]
		  msg['Cc']=", ".join(cc)
		  para.extend(cc)
	 msg['Subject']=asunto

	 for archivo in archivos:
		  ctype, encoding = mimetypes.guess_type(archivo)
		  if ctype is None or encoding is not None:
				ctype = 'application/octet-stream'
		  maintype, subtype = ctype.split('/', 1)
		  if maintype == 'text':
				msgparte = MIMEText(file(archivo).read(), _subtype=subtype)
		  else:
				msgparte = MIMEBase(maintype, subtype)
				msgparte.add_payload(file(archivo,"rb").read())
				# Encode the payload using Base64
				Encoders.encode_base64(msgparte)
		  msgparte.add_header('Content-Disposition', 'attachment', 
		  filename=os.path.basename(archivo))
		  msg.attach(msgparte)

	 if not host:
		  return msg.as_string(0)
	 s=SMTP(host)
	 if loginUsername and loginPassword:
		  s.login(login[[Main_UserName|UserName]],loginPassword)
	 x=s.sendmail(de,para, msg.as_string(0))
	 s.quit()
	 return x


def conectarBD():
	 """Rutina de conexion a la BBDD"""

	 try:
		  db = [[Main_MySQLdb|MySQLdb]].Connect(host=myhost,user=myuser,passwd=mypassword,db=mydb)
		  return db
	 except:
		  print u"Error en la conexion a la Base de Datos"
		  return -1


def insertar[[Main_HeadLines|HeadLines]](datos):
	 """Funcion para insertar los enlaces en mysql"""

	 conn = conectarBD()
	 c	 = conn.cursor()

	 if (conn != -1):
		  try:
				"""Insertamos los links"""
				for headline in datos:
					 try:
						  titulo_noticia = headline[0].decode('utf8').encode('latin1')
						  enlace_noticia = headline[1]
						  c.execute('''INSERT INTO mytb (headline, url) VALUES ('s')
''' % ( titulo_noticia, enlace_noticia ))
						  referencia_noticia = 'Acaba de ser a adida la siguiente noticia:


	'+titulo_noticia+'

Pueden leer la noticia completa en el siguiente enlace:


	'+enlace_noticia
						  referencia_noticia = referencia_noticia.decode('utf8').
encode('latin1')
						  if enviar_correo == 1:
								sendMessage(de=remitente,para=destinatario,asunto=subject,
texto=referencia_noticia,host="localhost")
					 except:
						  pass
						  ## print u'Enlace repetido'
		  except:
				print u'Problemas al realizar los �INSERT�'
				return -1



def main():
	 """LLamada a las distintas funciones para conseguir los objetivos del programa"""

	 source = urllib2.urlopen(headlines_url).read()
	 parser = [[Main_HeadlinesParser|HeadlinesParser]]()
	 parser.feed(source)

	 lineas = parser.headlines.items()

	 try:
		  insertar[[Main_HeadLines|HeadLines]](lineas)
	 except:
		  print u'Problemas al insertar los enlaces.'


if __name__ == "__main__":
	 main()

Second script: Parse Documentation Page

#!/usr/bin/env python
# -*- coding: latin1 -*-

###########################################################################
#	 Copyright (C) 2005 by Alexandro Colorado && Luis Cabrera
#
#	 Author:
#		  Alexandro Colorado <jza@openoffice.org>
#		  Luis Cabrera <lcabrera@sauco.org>
#
# Copyright: See COPYING file that comes with this distribution
#
###########################################################################

__shell_usage__ = '''
'''
__version__ = '20051030'
__author__='Luis Cabrera Sauco'

import HTMLParser
import urllib2

headlines_url = 'http://es.openoffice.org/servlets/[[Main_ProjectDocumentList|ProjectDocumentList]]?folderID=276&expandFolder=276&folderID=0'


class [[Main_HeadlinesParser|HeadlinesParser]](HTMLParser.HTMLParser):
	 def __init__(self):
		  HTMLParser.HTMLParser.__init__(self)
		  self.headlines = {}
		  self.while_anchor = False
		  self.last_href = None
		  self.mysearch = '[[Main_ProjectDocumentList|ProjectDocumentList]]'

	 def handle_starttag(self, name, attrs):
		  attrs = dict(attrs)
		  if name == "a":
				if "href" in attrs:
					 current_href = attrs["href"]
					 if self.mysearch in current_href:
						  self.while_anchor = True
						  self.last_href = current_href

	 def handle_data(self, content):
		  content = content.strip()
		  if self.while_anchor:
				self.headlines[content] = self.last_href

	 def handle_endtag(self, name):
		  if name == "a":
				self.while_anchor = False

def main():
	 source = urllib2.urlopen(headlines_url).read()
	 parser = [[Main_HeadlinesParser|HeadlinesParser]]()
	 parser.feed(source)

	 for headline in parser.headlines.items():
		  # print '''insert into "Headlines" values ('s');''' % headline
		  urldoc = headline[1].decode('utf8').encode('latin1')
		  docsource = urllib2.urlopen(urldoc).read()
		  docparser = [[Main_HeadlinesParser|HeadlinesParser]]()
		  docparser.mysearch = 'documents'
		  docparser.feed(docsource)

		  for datos in docparser.headlines.items():
				print '''insert into "Headlines" values ('s',' (headline[0],datos[0].decode('utf8').encode('latin1'),datos[1].decode('utf8').encode('latin1'))

if __name__ == "__main__":
	 main()


-- AlexandroColorado - 23 Oct 2005
-- LuisCabreraSauco - 02 Nov 2005

Personal tools