Logicamente si están creados no puedes crear otros con el mismo nombre. Como realmente no se lo que haces tampoco te puedo orientar.... pero puedes hacer lo siguiente; Buscar el componente si esta creado no lo creas y si no lo está lo creas.
Código Delphi
[-]
if form1.ContainsControl(Tedit(findcomponent('editx'))) then
showmessage('está')
else
showmessage('no está');
Para destruir un edit pues sencillo....
Código Delphi
[-]
form1.controls[x].destroy;