解:(1)當a=1,且b=-2時,x′=1×0+(-2)×1=-2,y′=1×0-(-2)×1=2,
則τ(0,1)=(-2,2);
(2)∵τ(1,2)=(0,-2),
∴
,
解得a=-1,b=
;
(3)∵點P(x,y)經過變換τ得到的對應點P'(x',y')與點P重合,
∴τ(x,y)=(x,y).
∵點P(x,y)在直線y=2x上,
∴τ(x,2x)=(x,2x).
∴
,
即
∵x為任意的實數,
∴
,
解得
.
∴
,
.
故答案為:(-2,2);-1,
.
分析:(1)將a=1,b=-2,τ(0,1),代入
,可求x′,y′的值,從而求解;
(2)將τ(1,2)=(0,-2),代入
,可得關于a,b的二元一次方程組,解方程組即可求解;
(3)由點P(x,y)經過變換τ得到的對應點P'(x',y')與點P重合,可得τ(x,y)=(x,y).根據點P(x,y)在直線y=2x上,可得關于a,b的二元一次方程組,解方程組即可求解.
點評:考查了一次函數綜合題,關鍵是對題意的理解能力,具有較強的代數變換能力,要求學生熟練掌握解二元一次方程組.