解:设圆O与AB,BC,CA分别切于D,E,F.连接OD,OE,OF;连接OA,OB,OC.AB=√(AC^2+BC^2)=15.S⊿ABO+S⊿BCO+S⊿CAO=S⊿ABC.即AB*OD/2+BC*OE/2+CA*OF/2=AC*BC/2.则AB*OD+BC*OE+CA*OF=AC*BC.即15*r+9*r+12*r=12*9, r=3.(注:也可以利用r=(AC+BC-AB)/2可求得:r=3.)