Hola,
es un poco complicado, pero es mas o menos asi: hay que primero leer el ancho de la pantalla del usuario con
screen.width, restarle el ancho de la ventana emergente y dividirlo en dos (mitad para cada lado), de alli se la puede posicionar con alguna funcion que se cree (en el ejemplo se llama
posicion()).
este tuto lo explica bastante bien:
http://www.forocreativo.net/topic/10394-tutorial-javascript-centrar-ventana-popup/
La funcion de posicionamiento es esta: