解:(1)當a=b時,四邊形OEPF是正方形,
則ab=

,故a
2=

,
∵a>0,
∴解得:a=

,
∴P(

,

),
∵M,N是直線y=-x+1上的兩點,OE=

,
∴ME=y=-

+1=

,

=-x+1,則FN=x=1-

=

,
∴M(

,

),N(

,

),
將△OEM繞O逆時針旋轉(zhuǎn)90°到△OFM',
則NM'=FM'+FN=2FN=2-

,
PM=PE-ME=

-

=

-1,
PN=FP-FN=

-

=

-1,
∴MN=

=

=2-

,

∴NM'=MN,
在△ONM和△ONM'中,

,
∴△ONM≌△ONM'(SSS),
∴∠MON=∠MON'=

∠AOB=45°;
(2)過M作MC⊥y軸于C,過N作ND⊥x軸于D,
∵直線y=-x+1與x軸、y軸分別交于A、B兩點,
∴y=0時,x=1,x=0時,y=1,
∴A點坐標為:(1,0),B點坐標為:(0,1),
∴AO=BO,
∴∠OAB=∠OBA=45°,
∴AN=

ND=

b,BM=

MC=

a,
∵P(a,b)是反比例函數(shù)y=

在第一象限內(nèi)圖象上的一動點,
∴2xy=1,則2ab=1,
∴AN•BM=2ab=1.
∴AN•BM為定值.
分析:(1)利用正方形的性質(zhì)以及反比例函數(shù)的性質(zhì)得出ab=

,進而得出a的值,即可得出P點坐標,再利用旋轉(zhuǎn)的性質(zhì)以及直線上點的坐標特點得出M,N的坐標,再利用全等三角形的性質(zhì)得出∠MON=∠MON'=

∠AOB=45°.
(2)利用已知一次函數(shù)解析式得出A,B坐標,進而得出△OAB的形狀,進而得出AN=

ND=

b,BM=

MC=

a,再利用反比例函數(shù)的性質(zhì)得出即可.
點評:此題主要考查了反比例函數(shù)綜合應用以及全等三角形的性質(zhì)與判定和正方形的性質(zhì)等知識,利用已知圖形表示出AN,BM的長是解題關鍵.