Hola, segun lo que he entendido (
wikipedia) tendrias que :
-recorrer cada punto de la imagen
-si se encuentra un punto, entonces recorrer cada phi (0 a maxr),ro (0 a 360) y si se encuentra otro punto guardar en el array el phi,ro, correspondiente, donde phi seria un radio y ro un angulo. Esto seria ir recorriendo primero un circulo de radio 1 alrededor del pixel, luego de radio 2, etc.. asi hasta maxr que seria el tamaño máximo de la imagen.
-una vez se tienen recorridos todos los pixeles, mirar que valores de phi,r son los que se han guardado y analizarlos. Si por ejemplo las phi guardadas cambian pero las ros son mas o menos constantes, entonces es una recta (radio variable, pero siempre el mismo angulo). Si por ejemplo, las phis guardadas mas o menos no cambian pero las ros si, entonces es un arco de circulo (radio constante, angulo de 15 a 60, por ejemplo). Si las phis guardadas mas o menos no cambian y las ros van de 0 a 360, entonces tienes un circulo completo. Supongo que para encontrar elipses o rectangulos ya sera mas complicado
. Bueno, a ver si te sirve.
De todas maneras yo buscaria mas información antes de ponerme a programarlo. Saludos.