Hola,
En mi opinión los archivos XML ofrecen más posibilidades que los archivos INI, en el momento en que necesitemos cierta complejidad. Estoy pensando en los componentes
I18n de Delphi Area, por ejemplo. Estos componentes guardan los datos "de lenguaje" de nuestra aplicación en un archivo XML. Ahora bien, echando un vistazo a este archivo, parece complicado hacer lo mismo usando un solo archivo INI que no se volviese tan incomprensible o más para un humano que el propio archivo XML de que hablo.
Personalmente guardo la configuración de mis aplicaciones en el Registro de Windows o en archivos INI. He usado también archivos XML, pero, reconozco que sin llegar a comprender en su momento su verdadera falta: seguramente los usé siguiendo cierta moda. El formato JSON que menciona
Germán suena tentador, y, lo que hace tiempo me planteo es usar bases de datos SQLite. Las bases de datos SQLite podría superar al resto de formato, por ejemplo, por su facilidad para almacenar algún que otro archivo binario.