解:
设可分解为(x+py+a)(x+qy+b)=0,展开:
x^2+(p+q)xy+pqy^2+(a+b)x+(pb+aq)y+ab=0,对应原式有:
p+q=1 -----(1)
a+b=-2 ------(2)
pb+aq=11 ------(3)
ab=-15 ------(4)
由(2)、(4)可解得a=3,b=-5或者a=-5,b=3(这两组解其实是一组)
代入(1)、(3)可求得p=-1,q=2
则当k=pq=-2时,x^2+xy+ky^2-2x+11y-15可分解为两个一次因式的积。