因为函数g(x)=x2+m是(-∞,0)上的正函数,所以a<b<0,
所以当x∈[a,b]时,函数单调递减,则g(a)=b,g(b)=a,
即a2+m=b,b2+m=a,
两式相减得a2-b2=b-a,即b=-(a+1),
代入a2+m=b得a2+a+m+1=0,
由a<b<0,且b=-(a+1),
∴a<-(a+1)<0,
即
,∴
a<?a?1 a+1>0
,
a<?
1 2 a>?1
解得-1<a<-
.1 2
故关于a的方程a2+a+m+1=0在区间(-1,-
)内有实数解,1 2
记h(a)=a2+a+m+1,
则 h(-1)>0,h(-
)<0,即1-1+m+1>0且1 2
?1 4
+m+1<0,1 2
解得m>-1且m<-
.3 4
即?1<m<?
,3 4
故选A.